#AI的知识
AI在当下的最主要高强度可能还是写代码,生成图片、视频和对话常用但和写程序相比也许没有那么大强度(纯猜测,在大范围统计意义上)。另一方面,前者的代码生成的程序是间接影响生活,而后者则是直接参与生活。更介入式的使用方法,可能是当作赛博心理咨询,借此自我了解。这可以说非常远离纯粹理智或客观主义了,相反需要某种共情能力或至少情绪能力。
在这一篇,暂且尝试以AI为引子,来思考社会中知识的含义,以及对生活的影响。
##无判断的知识
受多年数学学习的浸染,我总有一种对命题语句的倾向,所以认为能构成知识语句应当是一个判断。虽然符合数理逻辑,但是日常使用过于严苛,因此此处并不使用相应语义。
这里说的无判断知识,是指那些相对更接近陈述的句子,这种问题问AI似乎很合适。比如“茶叶分为红茶、绿茶、乌龙茶等”,常见谬误有哪些,咖啡的基本知识或者海德格尔的基本介绍。
###AI时代
目前我对AI回答的这类知识有很高的信任度。具体操作上,启用联网搜索并只使用有原网页来源的信息。这种情况下,即使我手动去搜索这类信息,大概率仅仅会在数量上不如ai。
需要提防的是AI编造信息来源,通常而言很难一一审核信息来源,这可以看作是AI的谄媚倾向的表现。
也许可以通过无倾向的提问来努力规避,例如用李白祖籍哪里代替李白是突厥人吗。这有点像尝试打破信息茧房,不要停留在那些可以固化当下原本就抱有的认识,而是主动开放式地多方了解相关信息。
TIP
我个人使用的另一个小技巧是新建对话,减少问答中的上下文;减少AI对我的理解,也许能减少为了谄媚而产生的有偏向的信息。
但我并不知道是否有效。
但按照当前互联网对AI使用的情况,第一手语料和信息比例越来越小,有越来越多比例的AI二手知识。 这样下去,即使信息有来源,也可能来自AI生成;如果那些作者不加审核地直接使用,并且不做标记,就可能产生虚假信息的合法化。 这其中还要担心乐子人的污染,比如李四维是潘天鸿父亲这种难蚌的东西。
###前AI时代
另一方面,前AI时代这些问题也是存在的。
比如小编觉得很震惊,你觉得呢这种古法垃圾。 谣言同样到处都是,包括类似乐子人的离谱操作,比如人一生中会在睡觉时吃到xx只蜘蛛。
人对人的谄媚正是谄媚的原意,为了讨好某个群体或博取流量,以偏概全或夸大夸张的信息很有市场。比如营销姜萍的水平,或者鼓吹wifi之母(海蒂只是其中一种技术的一部分贡献者,并且最终没有采用,完全称不上是主要发明人)。 某种意义上,被男性所簇拥的父权制本身也是一种信息茧房,不仅屏蔽女性的不平等地位,其实也让男性心甘情愿接受歧视的代价,而无法想象更平等自由的世界。
劣质新闻同样不在少数,我曾在大学图书馆看到民科出版的《解一元五次方程组》,甚至就放在《伽罗瓦理论》旁边。 鉴于现实世界里数学的科学性,流通的数学知识同样不可信。
##如何使用知识
另一些则涉及知识的使用,比如筛选收集的信息并做决策,或者使用某些方法论。
###数学
目前我个人的经验是,在数学问题上的应用,AI可以说是一塌糊涂,幻觉比例显著暴增。
可能是因为我能辨识出幻觉,或者在数学语境下很多内容是可以明确判断真假,所以会被归为幻觉。
借助这个现象,可以帮助分析什么是知识、什么是推理、什么是理解。
如果有人不认为数学是简单的,那是因为不知道生活有多复杂。
冯·诺依曼
相信很多学习基础数学的人会有这样的看法:数学其实是非常简单的,甚至可能是最简单的。从数理逻辑上来说,数学仅仅是在公理和定义上应用三段论而已,再无其他限制。
但相信大多数人都同意,对于人和AI而言,数学都非常难。
计算机可以严格执行逻辑运算,但AI却无法做到。诚然一些大模型能够做高考题甚至竞赛题,但在前沿数学领域,其幻觉离谱到简直令人发指。
解释之一是大模型训练数据不包含足够的数学内容,毕竟这类内容本身就很少。可是在我的使用过程中,前述非判断的数学领域知识,比如Toric variety的定义等,可靠性很高;只要稍微加一点逻辑分析,即使是很简单的问题也直接拉胯,AI对看似知道的定义定理的使用可以说是完全错误。
竞赛题与实际的数学研究很不一样,出色的数学研究非常依赖某种直觉、洞察或理解,这一点看起来AI完全做不到:知道和理解在在这里是显著不同的。
AI能给出答案的数学问题,基本都是在各类资料里被人类给出过的答案。也就是说,在这个情况下,AI并没有做到使用知识,而只是知道一些事。
从知道到使用,必然经历一个理解过程,这可能才是人类智能的实质(并且因为智能有限而学不会数学:-();而大模型则是用大量知道来塑造出来理解的假象。
###心理分析
除了数学之外,我所接触的另一个使用方式是借助AI对话对自身做心理分析。 联系AI对数学知识的应用,我非常不信任AI的回答。心理咨询需要对相关理论的理解而非知道,并且很依赖被咨询者的陈述。 后者相对于模型的训练数据而言是非常少量的数据,根本无法产生理解的效果。不仅如此,真正的心理咨询是可以引导患者的,而AI的谄媚倾向使得这非常困难。
BTW,近期小红书刷到很多吐槽gpt5.2的帖子,称其废话连篇用词烂俗死不悔改,高强度使用“你说的对”、“让我来接住你”,可以算是我看法的佐证了。
###用AI学习
在AI无法理解知识的前提下,也许可以通过AI获取知识并让自己学习和理解。
这有点像抄作业,我知道有一类人拿来参考答案后,并非机械式复制,而是看懂之后再自己复述一遍。
考试可以交头接耳,甚至冒名顶替。冒名顶替的也不过是照人家的抄一遍,我不会,你写了,我抄一遍,也可以有些心得。
这一条出处存疑,没有找到原始文献。
这个网站的主题是自制的,虽然能十分依赖AI,但是几乎没有纯粹AI生成的代码。大部分是我看懂AI的语法和思路后自己实现的(AI的方案总是过于臃肿,赛博洁癖不能容忍)。
##作为媒介的对话框
重读《娱乐至死》,报纸到电视是铅字到视频的变化,也许AI生成也是一种新媒介。虽然它(通常是)屏幕上的文字,但它的生成、传播、使用方式的不同。
从铅字代表的严格性,到电视代表的娱乐;而AI生成文本的泛滥,可能接近拟像对真实的取代,或者超真实。
早期维特根斯坦的理论认为,语言的边界即思想的边界,语言的所有可能就是世界的所有可能。
如果被AI的语言塑造我们的生活话语,形成一种统一的文本,那么我们的思想、世界也许随之成为这个被限制的世界。
这一点从一些常用话语就可以察觉一二,比如我刚问了AI,Grok这是真的吗,不如你问问AI呢这样的话语,正在从赛博世界入侵日常世界。
AI的长文本上下文功能,仿佛一种外置内存,人类的思考模式也许也会跟着变化。
技术带来的人类进步的神话,以人类生活方式的变化为代价。