Read Write Compute

……但我们可以意识到片面性的存在

十一月 17, 2026
Tags: #anti-LLM #philosophy #science

这大半年,我一直觉得,AI能在某个行业或者某项工作上取代人类的论点,存在着某种逻辑缺陷。但我一直没有找到一种不牵涉情绪的方式来描述这种缺陷到底是什么。可能同样令人烦恼的,是我无法理解很多人,包括所谓的知识工作者,看到前沿AI实验室放出的种种意在证明AI替代性的消息时,竟然没有一点感到被冒犯或者物伤其类的反应。这样的心理在我看来完全是一个谜。

今天我在翻译中遇到这样一段文字:

也许我们正在意识到,计算机使用者在摆脱了给现实中的人们的想象加以限制的定律之后,在无限的自由中创造的那些游戏,也就是抽象系统,其规则一旦当真被套用于现实世界,将会导致灾难性的失败。我们也要认识到,那些同样脱离了真实的人类经验的魔法式体系也包含着同样的危险,特别是那些坚称在其抽象的简略框架下就能描述人的全部本质的科学。 ——《计算机的能力与人类理性》(暂用名),❲美❳魏岑鲍姆

这段话中描述的错误,主张AI可以或应该取代他人的人们似乎也在犯。或者说,魏岑鲍姆这段话同样可以描述藏在一类对AI的乐观和积极接受态度背后的认识谬误。

这个认识谬误就是没有意识到大语言模型只是一个模型,它是对人类语言文字中一些既有关系的向量化描述和概率重组,它甚至不包括人类的全部语言和其所有能产生意义的排列,更谈不上涵盖人的全部体验和方方面面的特质。相信它能够替代任何人,都只是像魏岑鲍姆笔下的一些科学家那样,对自己所用工具的局限没有意识,而仅仅因为自己在特定的用途上用了它、感到很好用,就做了一个过大的理念跳跃,认为它可以取代人,或者可以在实用意义上完整地描述、代表“人的全部本质”。

一个有趣的事实是,提出这类总体上可以概括为“AI可以取代人类”的意见的人,在具体、公开的表述中,除非论断下得很匆忙,否则一般不会用总体性的“人类”这个概念,也不会认为自己的工作会首先被取代。比如,播客主理人一定不会自认“2030年之前AI一定会取代播客主理人”,图书编辑们不会说“图书编辑的工作现在AI就能干”。OpenAI暴力破解了几百个数学问题的证明,能搞成大新闻,是因为绝大多数人身边找不出一两个职业数学家,所以可以很便宜地下场讨论,说数学家很快就会被取代,而很难因此得罪一个具体的人。

更深层的原因,是我们认识的具体的人,在年终工作总结那些轻描淡写、略带尴尬的浮夸的文字背后的艰辛、委屈,那些穷途末路或者柳暗花明的时刻,是不会留下正式记录却能被认识的人感受到的,我们对自己这份工作涉及到的每一个细节,更是有着切身、深刻但永远不会整理成文的体会。所以当我们在说AI会取代人类时把自己和自己这行摘出去,既受一种本能的心理所驱使,也有一个具身的、下意识的同时也是正确的判断做支撑,那就是“我”这个人的价值并不能变成一堆向量和权重,哪怕这个模型有几千亿几万亿参数也不行。

AI毕竟只是基于某几个特定学科的认识,对有限的现象做的不完备的模拟。而且就连科学,虽然可以照亮一个魔鬼出没的世界,也不是真理和见解的全部来源,特别无法成为关于人的真理和认识的来源。这是AI在科学和技术层面上所受的不可逾越的限制,它源自AI依赖的认识范式本身。


我们会觉得AI首先会威胁程序员、数学家等等的一个外部原因,是我们对这些职业的认识中间至少隔了一层媒介,而这些媒介中往往至少有一层是文字。作为专门用来产生和转化文字的工具,大语言模型要让人产生“这个职业能做的就是这些,大模型全都能做”的错觉并不难,因为要模仿对这个职业的全套大众化描述,以及生成看起来像模像样的结果(往往又是文字),对它来说很是简单直接。

同样,也存在一个更深层的外部原因,是人的内涵和外延在向没有具体经验的他人传达时,不免要被包装、框定为一些具体的称号和指标——比如不幸英年早逝的学者在讣告里都只能被还原为去世时的年龄、xx学者的称号和xx奖项的获得者这几个要素。而成就很少被体现为学说和文本的行业,个中人才大概连这种待遇也很难有。所以我们已经习惯于用数据和称号来描述和衡量一切。当我们认为数学家可以被分为具有真正的才能、能够在AI的辅助下更快地发现真理(且不论快速大量发现真理是否真的有意义),和才能高于常人但仍然有限、仅仅为稻粱谋而在做被AI轻易解决的“小”问题、因而可以甚至应当被取代的两类,也是只看到人真实的意义和困境的一个极为狭窄的侧面。这是用文字讨论人与AI的问题时必然会受到的限制,它源于文字本身的功用限度和人用文字交流时必然的语境和信息损失。

而AI前沿实验室(读作:融资泡沫)在白热化的、事关上万亿美元[1]流向的竞争中,要采用的叙事当然也得是资本习惯和期望的叙事,那就是AI可以代替人,通过几十倍地降低人员成本和提高生产力来创造价值。但如果我们认识到AI只不过是一种概率机器,和其他一切机器一样本身不能创造价值,创造价值的只能是人这个前提的话,接下来就能认识到前沿实验室们之所以要拼命证明AI可以取代这取代那,无非是因为他们没有办法用其他方式证明他们通过AI、AI通过为其使用者生产而创造了价值。而进一步地我们可能会发现,以高昂的、部分体现为前沿实验室推向社会的外部性的代价组装和开动的概率机器,只会通过对概率本身的学习和操纵节约部分人工并压缩部分行业的单位劳动价值,而不会带来整个社会的价值提高。

只是我们在市场化媒体由来已久的规训下所习惯的对人的价值的描述方式,让人和劳动机器的差别几乎从所有叙事中完全消失,才让前沿实验室的故事还能继续讲一段时间。但承认这样的叙事,无异于否定人自己的价值。荒唐的是,只要不谈到自己的一亩三分地,很多人却愿意欣然接受前沿实验室的这套叙事,甚至不遗余力地为其鼓与呼。


上世纪八九十年代,魏岑鲍姆已经在著作中说明了科学在世界观上的局限。更早的时候,我们已经认识到文本的局限。造成它们局限的原因是共同的,因而不能通过简单地把二者结合来达成对局限的弥补。这个原因就是它们都是对世界的某种抽象和选择性解释。用不关心因果关系的概率科学,进一步抽象一个不完全的人类语言库而获得的大语言模型,无疑和其他机器一样,在提供自动文本生成和自动编程能力的同时,也让自己进一步局限于世界的一个更单一的侧面。我们从中获得的能力因而也只能是一个特定方面的能力,无论如何只能是人的某方面能力的延伸——是否值得为其付出我们正在付出的代价,也暂且不提——而谈不上对人任何程度上的取代甚至淘汰。

而前沿实验室对这种局限性的有意回避和掩盖,客观上也只是适应了一种本身就极度单维度和片面的对人和价值的描述方式,才得以不被揭穿。我们每个人对世界的认识和表达都难免片面,但我们至少可以认识到这种片面性的存在和普遍,对任何把人平面化的叙事保持清醒的认识,并从更多的事实来源和范式视角来审视现实世界。


  1. (本评论不构成投资建议)以T计的估值是金融操作和讲故事的结果,目前看来AI的市场规模并不会有那么大,更无法支撑得起两家市值上T美元并能持续运营的企业。 ↩︎