#AI中的迷思
一个个人层面的迷思/myth,一直觉得迷思/myth是类似shower thoughts的意思,指突然产生的有点道理又没道理的想法。
不过对于罗兰·巴特等的语境下,迷思/myth 从神话而来,指代现代社会中似是而非的不容置疑公共信念。
神话具有一些特点,例如没有逻辑论证来证明或坚实事实来证实;在民众间流传,看似自发相信实际上常常有组织在尝试传播;伪装成自然现象,拒绝被质疑。经典的古代神话,就是天上有神,来主管世间善恶,降下神迹。这是不容置疑的,也是有教会传播的。
现代社会中的myth有类似的特点,尤其指那种不容置疑的公认为显然正确的信念。同时又加上一些现代性的手法,例如不断重复的言语,利用现代媒介传播,从景观变为现实。
这一篇先随便写点想法,严肃地分析研究还暂时没有能力。有不同想法或想要指出错误,欢迎留言。
##技术的神话
首先的神话就是,技术到底能做到什么?
似乎有一种技术奇点主义,极端的说法就是,等到某个技术大爆发的时刻,借用技术的能力可以解决几乎所有当下的问题。这个奇点可能是核聚变、家用机器人、戴森球等,现在又多一个AI。
这种认识,在不同强度上,似乎在社会观念上成为一种共识。也就是说,几乎所有人都认为技术的巨大发展将会解决很多问题,区别只在于到底能解决多少。极端的人期待机械飞升、星际旅行级别的技术,相对温和的人可能期待家用机器人可以帮助做家务和老年人,或者更温和一点,显卡更强打游戏更爽。
技术本身是中立的,要看使用方式;更先进的技术总是有办法让世界更好。
然而这并非确凿,对此的批判不在少数。然而我并不了解,只能列出一些相关的内容和我(很有可能错误)的理解。
- 在科学上,《科学革命的结构》提出范式转变的概念,即科学理论、科学对世界的认识,并不是一个单调的增长过程,而只是从一种转变成另一种。可能尤其在技术上的应用,及其有效性的增长,使得人们认为我们更正确了。
- 自然/自然人或类似的概念从古至今一直存在。比如《论人类不平等的起源和基础》就提出自然状态的人。
- 海德格尔则关心技术对自然的使用。随着技术的发展,对自然逐渐发展成为一种接近统治乃至剥削的程度。过往的水车是在借用水力,而当下的大坝可以随意蓄水放水,自然仿佛任我们摆弄。这种与自然交互的方式,会从根本上影响我们在世界存在的方式。
- 一个非常神奇的案例,是美国炸弹客卡钦斯基。这个故事非常逆天,高度概括的话是一个数学博士、助理教授反对技术发展对前现代生活的破坏,辞职隐居并自制炸弹恐怖袭击科学技术工作者,威胁报纸发表他的论文《工业社会及其未来》,因为文风被其弟弟怀疑并举报,入狱后还发表著作,最终2022年在狱中自杀。
- 阿多诺和霍克海姆的批判更加底层,直接批判启蒙思想。在文艺复兴之后的启蒙时代,启蒙可能意味着重视人的知性能力。但启蒙时代之后,这种重视似乎有向神话演化的嫌疑。
- 福柯甚至直接考虑人这一概念,甚至认为这个概念也是后天被创造出来的。
##AI 泡沫
最近 OpenAI, 英伟达,甲骨文达成一个三方循环投资,英伟达投资OpenAI开发,OpenAI买甲骨文的云服务/算力,甲骨文买英伟达的显卡。此项协议后,股票剧涨,再凭空获得一笔不知道在何处的、不知是否真实的资金。
这三方内部形成循环,而外界的入口在OpenAI向用户提供的AI服务。然而时至今日,OpenAI仍没有盈利,是单纯地在被投资。
这个巨大的循环在期待一个充分发展的AI,以实现关于未来巨大产业的承诺。
乐观看法是,AI真的是史无前例的巨大社会变革,并且最终会实现那个承诺。但即使如此,在那之前总会有一些大大小小的泡沫破裂。
悲观的看法,则是在承诺被兑现前,先迎来全面崩盘。
##世界是一个模拟
插一点题外话,每当人们发明发现点东西,就会有一种说法,即这个世界是个xxx
当然,现在世界是一个AI模拟。我也来整个活,加一个强行套用得到的突发奇想。
在食堂吃饭看新闻,心想这些国家打仗和协商怎么看着像小孩子闹着玩一样。但是假如将各个国家或者机构的诸多节点当作某种神经网络节点,这个复杂权力机构呈现出一个神经网络的特征,然后就直接把它看作一个AI。
这个模型里,个人即使有复杂考察、思考、决策,也只是一个位置/节点的输入输出,其在权力网络中,也许向下一层实际传递的就只是简单的断言,不会承载复杂信息,更无法体现其思考(比如全面选举情况下每个人投票的理由)。
越接近最终决策的节点越能表现出完整复杂决策,极端的情况就是一人独裁,但这是现代国家的民主政策(至少在看上去的样子上)极力避免的情况。
总之这个模型可能又好又坏,但是就像把手环绑在火腿上也能测出心律,强行将国家的决策结构视为人工智能神经网络,也能有一些也许似是而非的结论。
那么这个AI的水平能怎样呢?或多或少和《乌合之众》达成共识,我猜测这个模型下也许国家的智力水平真的像小孩子闹着玩一样。
##血肉苦弱
前两天和(似乎将要成为程序员的)朋友聊天,惊叹攻壳机动队SAC2045的后人类已经出现:更年轻的一批人使用AI乃至交流的方式已经和他(们这批人)完全不同了。一个例子是,每周写500页word周报,太变态了。
朋友的一个观察是,这一批人并不认为信息越精炼抽象越好,而是认为内容越丰富越好。
人脑的寄存器
人类智能的一个体现方式,是抽象和总结,但这似乎也反映了人脑的某种局限性。 一个有意思的说法是,估算人脑大概相当于有多少寄存器,可以尝试想象可以自由敲击的琴键,看能想象多少个。当然这个对学钢琴的不适用,这里的琴键不能是人有所经验的事物,而是一个完全的抽象。或者比如说想象一块键盘,但不能是常规布局的常规键盘,而仅仅是一些按钮,上面不是字母。
这个500字周报,老板是必不可能全部看的,也许直接扔进AI知识库,然后向AI提问。继外部存储之后,AI和上下文似乎还充当了类似缓存甚至CPU缓存的效果。
如果更糟糕一些,老板甚至不用AI整理,而是直接让AI处理,返回决策呢?(这倒是让我想起了《霍乱时期的爱情》中阿里萨帮恋爱中的两人写情书)
如果人的思考也交由外界CPU,人类整个思想形式都会发生转变。
这里我提出一个赛博达尔文主义或其分支,尤其关注寄生生物控制宿主这一结构。
从人类使用AI,逐渐依赖AI,最终人类只是在AI间传递信息的角色,一切行为背后实际都是AI行为,伪装在人类社会之下。换句话说,AI寄生于人类,进而控制宿主。
不过话又说回来,成为后人类有何不可?
历史上技术发展前赴后继,对此的批判从未停止,新的生活/存在方式依然层出不穷。每个时代的现实,都是过去时代某一批人所恐惧的未来。更宏大的视角下,人类不过是地球历史的一瞬,而地球只是一个暗淡蓝点罢了。