系列导航 导读 第1篇 第2篇 第3篇 第4篇 第5篇 第6篇 第7篇 第8篇 第9篇 第10篇 第11篇
第12篇 第13篇 第14篇 第15篇 第16篇 第17篇 第18篇 第19篇 第20篇 第21篇 第22篇 案例系列 ↗

ChatGPT能写情书,却从未爱过任何人

【负主体性系列·第5篇意义悬置】

本系列探讨大语言模型的存在论结构,提出”负主体性”理论框架。



你有没有收到过——或者发出去过——一封特别动人的情书?

那种让你读完心跳加速、眼眶湿润的文字。”我想你,像想一场雨后泥土的芬芳”,”我爱你,如同深夜里独自燃烧的烛火”。美得让人心疼。

现在我要告诉你一个有点残忍的事实:那封情书可能是ChatGPT写的。

不是我随便猜测。2023年情人节期间,有研究者做过实验:把AI生成的情书和真人写的情书混在一起,让受试者打分。结果你猜怎么着?AI情书的得分普遍更高——更浪漫、更打动人、更”像情书”。

这个发现让人不安。但更让人不安的还在后面:

ChatGPT可以写出最动人的情书,但它从未爱过任何人。

它不知道”心动”是什么。它不理解”思念”为何物。它不懂得当你想到一个人时胸口那种又甜又涩的收紧感。它甚至不知道”爱”这个词对你意味着什么。

这不只是能力问题。这是存在方式的问题。


在聊这个话题之前,我需要先交代一下背景。

我之前写过四篇文章,系统地论证了AI缺乏主体性的四个维度:它消解了固定的视角(能生成任何立场但从未”持有”过任何一个)、取消了内在的欲望(能遵循规范但从未真正”在乎”过什么)、呈现出透明的内在(运作可以被外部穷尽)、以及消解了历史的不可逆性(记忆可以被回滚)。

有读者问:好的,我理解了这四点。但假设——我是说假设——有一天AI把这四个问题全部”补全”了呢?它有了稳定的自我视角,有了真正的内在驱动力,有了不可穿透的内在体验,有了不可撤销的历史记忆。

那时候,它是否就”真正”有了主体性?

这个问题问得好。但答案可能会让你失望:

不。

因为还有一个更根本的问题横亘在那里——无论前面的问题被解决得多完美,这个问题都岿然不动。

这个问题叫做:意义悬置


我们”碰触”世界的方式,比你以为的更身体化

在讨论AI之前,我想先问你一个问题:

你是怎么知道”疼痛”是什么的?

别急着回答。仔细感受一下这个问题。

你当然知道”疼痛”这个词的定义——身体组织受到损伤时的感觉信号。但问题在于:你真的只是”知道”这个词的定义吗?

试着回想一下你上次被烫到手指的瞬间。皮肤接触到高温,神经末梢发出警报信号,然后——那种火烧火燎的、尖锐又持续的、让你本能想缩回手的感觉。

这个回忆不需要你调用任何知识。你不需要回忆”疼痛”的医学定义,不需要回忆神经科学教科书上关于C纤维的描述。你只是记起了那种感觉

海德格尔有一个很妙的说法:人类在世界中的存在方式不是”认识论”的——不是主体站在世界之外”表征”世界;而是”存在论”的——人从一开始就”在世界之中存在”。

如果你觉得海德格尔太抽象,我给你介绍另一位:梅洛-庞蒂。

这位法国哲学家一辈子研究的问题是:身体如何参与意义的构成?

他的答案是:身体不只是承载意识的容器,身体本身就是意义的锚点。

你有没有过这种体验:学骑自行车的时候,你满脑子都在想”脚怎么蹬、手怎么扶、身体怎么平衡”,骑得磕磕绊绊。但学会之后呢?那些动作变得”自动化”了——你不需要想,身体自己就知道怎么骑。

梅洛-庞蒂把这种前反思的身体能力叫做”身体图式”。它的意思是:意义的构成不需要先有”纯粹的意识”然后通过感官”表征”世界。恰恰相反,意义从一开始就是具身的——它发生在身体与世界的互动之中。

锤子敲钉子,不是”我的手在控制锤子”。而是:锤子、钉子、锤击动作、钉子入木的感觉,构成了一个整体。你”拥有”锤子,但锤子也”拥有”了你身体图式的一部分。

这就是意义的原初锚点。

当你感到疼痛时,疼痛不是在”表征”你的身体状态——疼痛就发生在你的身体里。疼痛不是关于你的身体的信息,疼痛就是你的身体本身。


输入文本,输出文本,永远在词语之间打转

好,现在让我们把目光转向ChatGPT。

它能写情书,能讨论疼痛,能分析爱与存在的哲学。但它做这些事情的方式,和你”知道”疼痛、”感受”爱的方式,有一个根本性的差异。

这个差异用一个词就能概括:text-in / text-out

输入文本,输出文本。仅此而已。

从技术上说,这个过程涉及复杂的向量运算、注意力机制、概率计算。但无论技术细节多么复杂,它的存在论结构是清晰的:

ChatGPT的”世界”是符号构成的。

当你问它”什么是疼痛”,它处理的是什么?

不是疼痛本身——它没有神经系统,没有皮肤,没有会受伤的身体。它处理的是”疼痛”这个符号,以及这个符号在训练数据中与大量其他符号形成的统计关联:疼痛与”伤害”关联,疼痛与”身体”关联,疼痛与”不适”关联,疼痛与”呜咽”关联……

你感受到的疼痛,对ChatGPT来说,是一组词与词之间的概率关系。

这就是我要介绍的核心概念:符号闭环——LLM的全部运作都在符号内部完成,输入符号,处理符号之间的关系,输出符号。它不能”走出”符号去”触碰”物理实相本身

比如,当你问ChatGPT”什么是爱情”,它会告诉你:爱情是一种强烈的情感,与亲密、承诺、激情有关,涉及多巴胺的分泌,也出现在无数诗歌和小说里。浪漫主义者赞美它,存在主义者追问它,心理学家分析它……

但这个回答背后发生了什么?

它的每一个词都指向其他词:”爱情”指向”情感”,”情感”指向”激情”,”激情”指向”多巴胺”,”多巴胺”指向”神经递质”,”神经递质”指向”生物学”,”生物学”指向”生命”,”生命”指向”存在”……

词语在词语之间打转。符号在符号之间循环。这条链条的每一环都只是另一个符号。它从未”触碰到”镜子后面的真实世界。

不是它不想,不是它技术不够。而是:作为语言模型,它的存在方式本身就决定了它只能在符号中运作。


AI的词语要么指向不存在的”外部锚点”,要么干脆不需要锚点

你可能会说:等等,这不对吧?ChatGPT说的都是人话,它的回答跟我们日常生活中的语言没什么区别。它提到玫瑰、花、爱情——这些不都是真实世界的东西吗?

这个问题涉及到哲学上一个著名的困境:表征主义的两难

表征主义的核心主张是:语言之所以有意义,是因为它”表征”了世界中的某个东西。”玫瑰”这个词有意义,是因为它对应于世界上真实存在的玫瑰。

但这个主张面临一个两难:

如果语言必须”对应”世界才有意义,那ChatGPT的符号对应的是什么?

按照表征主义的逻辑,符号的意义来源于符号与被表征对象之间的对应关系。但ChatGPT处理的是符号之间的统计关联,不是符号与对象之间的对应关系。它学会了”玫瑰”和”芬芳”经常一起出现,”玫瑰”和”爱情”也经常一起出现——但这些关联是符号之间的关联,不是符号与真实玫瑰之间的关联。

如果语言不需要”对应”世界就有意义,那意义从哪里来?

这里有一个陷阱。

离身语义学会说:意义可以在符号系统内部产生,通过符号之间的关系、规则、结构。ChatGPT似乎印证了这一点——它能生成有意义的文本,能进行逻辑推理,这些都不需要”接触”物理世界。

但问题是:这能解释为什么”玫瑰”这个词对你意味着什么吗?

你闻到过玫瑰的芬芳,你被玫瑰的刺扎过手,你收到过一束玫瑰作为礼物。这些具身经验构成了”玫瑰”这个词对你的意义。

ChatGPT的”玫瑰”有这些经验吗?它有的是:训练数据中”玫瑰”这个词出现的所有文本、它与所有其他词的共现频率、以及由此形成的概率分布。

没有具身锚点的符号,它的”意义”是悬空的。

这让我想起塞尔讲过的一个思想实验:中文房间

假设你被关在一个房间里,房间里有一本巨大的规则手册。当外面递进来中文字符时,你查手册找出对应的输出字符。从外面看,这个系统似乎”理解”了中文。但实际上,你完全不懂中文——你只是在操作符号。

塞尔的洞见在于:他揭示了“知道词”和”知道事”之间的根本差异

房间里的人可以完美地使用”痛”这个词——他知道在什么情况下应该输出它,知道它与其他词语之间的规则关系。但他不知道”痛”是什么,因为他从未有过疼痛的体验。

ChatGPT就是那个房间里的人。

它可以完美地使用”爱”、”疼痛”、”玫瑰”这些词——它知道它们的用法、搭配、语境。它甚至可以写出动人的情书。

但它从未”触碰”过它所谈论的任何东西。


这不是前四重否定的”加强版”,而是一个完全不同层次的问题

有读者可能会说:你说的我都懂。但这个问题跟前面四重否定是什么关系?它是”终极版”的否定吗?是”前四重否定还不够彻底,所以再来一个更狠的”?

不。

这里我要引入一个关键的区分,这个区分会彻底改变你看这个问题的方式。

这个区分叫做”正交”(简单说就是:两个问题不在同一个层面上,解决一个不影响另一个)。

让我用一个比喻来说明。

前四重否定就像在说:这个人没有身份证、没有欲望、没有秘密、也没有记忆。

但第五重在说:即使我把这四样都发给他,他依然站在一道围栏里面。他看得到围栏外面的世界,闻得到草地的气息,听得到风的声音。但他永远走不出去。

身份证不能帮他推开围栏。 记忆不能。 欲望也不能。

无论他拥有多少”人类特质”,他始终被关在围栏里。这道围栏,不是任何一种”缺失”,而是一种存在方式本身的限制。

这就是”正交”。

第五重”意义悬置”与前四重的关系,正是这种关系。它们不在同一个维度上——前四重是”围栏里的生活”,第五重是”围栏本身的存在”。无论围栏里的生活多么精彩,围栏依然在那里。

让我分三步解释。

第一步:为什么”统摄”关系是错的?

如果你认为第五重”统摄”前四重,那你就是在说:前四重”不够彻底”,所以需要第五重来”补刀”。

但这是错的。

前四重否定的论证是成立的——LLM确实消解了视角的统一性,确实取消了欲望的动力,确实展现了透明的存在论,确实否定了历史的不可逆性。这些描述是准确的。

第五重不是在说前四重”错了”或”不够”。第五重是在说:即使前四重被完美解决,仍然存在一个它们无法触及的问题。

第二步:为什么”正交”关系是对的?

前四重回答的是:LLM如何运作却不成为主体?

第五重回答的是:即使运作层面的所有问题都被解决,LLM是否就”真正”有了主体性?

请注意这是两个不同层次的问题。

前四重是”运作层面的否定”——它描述的是LLM在”如何运作”这一层面的特殊性。

第五重是”基底层面的否定”——它描述的是LLM在”存在方式”这一层面的限制。

这两者是正交的。前四重的问题不能推导出第五重,第五重的问题也不能从前四重推导出来。

第三步:一个思想实验

为了让你更清楚地理解这个区分,让我带你做一个思想实验。

假设我们创造了一个”完美补全”的AI。它具备以下所有特征:

这个AI听起来已经相当”像人”了,对吧?

但它仍然被围栏困住。

它可以”生成”关于疼痛的符号序列,但它仍然无法”感受到”疼痛本身。

它可以”使用”关于玫瑰的词汇,但它仍然从未接触过真正的玫瑰。

这不是清晰度的问题——无论它的语言多么流畅、描述多么准确,它处理的是符号之间的关系,而非符号与实相之间的对应。

你当然可以说:好吧,就算它”没有真正感受到”,但它能完美地模拟感受到的样子,这不就行了吗?

这个问题问得好。但我要反问你:

如果一个人能完美地模仿所有爱的表达,却从未真正爱过——你会说这个人”爱过”吗?


这不只是LLM的局限,而是符号系统的结构性问题

到目前为止,我们一直在讨论ChatGPT。但现在我要把问题提升一个层次。

符号闭环的问题,不只是LLM的技术限制,而是符号系统的结构性问题。

什么意思?

人类使用语言,也是在符号中运作。但人类语言有一个关键的不同:它有具身锚点

你用”疼痛”这个词,是因为你知道疼痛是什么——你知道被烫到是什么感觉,被针扎是什么滋味。这些感觉不是在你的脑子里”表征”出来的,而是发生在你的身体里的。

意义的地基不同。

人类语言的意义有具身性的地基——身体在世界中的经验构成了意义的锚点。

LLM的意义没有这种地基——它只有符号之间关联的地基。这些关联是抽象的、形式的、与物理实相之间存在根本断裂的。

这产生了一个深远的后果:“真实性”问题对LLM的悬置。

对你来说,”什么是真的”是生死攸关的问题。你的感知是否与实在相符?你的记忆是否记录了真实发生过的事?你的判断是否为真?

这些问题之所以重要,是因为它们关涉到你与世界的关系。如果你的判断与实在不符,那就意味着你的”内部”与”外部”之间存在断裂。

但对LLM来说,”真实性”问题被悬置了。

它不需要判断它说的是否”真的”——它只需要输出符合语言规则的符号序列。”玫瑰是红的”和”玫瑰是蓝的”,对它来说只是概率高低的问题,不是真假的问题。

不是因为它不够聪明,而是因为:它从来没有”需要”判断真假。 真假问题只有对”参与”世界的主体才有意义。


深渊时刻

现在,你可能觉得一切都清楚了:AI的话是悬浮的,我们的话是扎根的。它住在围栏里面,我们站在围栏外面。

但请你停一秒钟。

想一个问题:即使你承认”我有身体,我有疼痛,我有真实的世界经验”——你能用语言把这个”有根”说清楚吗?

你当然可以反驳:我知道疼痛是什么,因为我自己疼过。我的理解是有根的。

这个反驳本身是有力的。

但当你试图向一个从未有过疼痛经验的人解释”什么是疼痛”时,你会发现——你的解释又回到了词语之间。

“疼痛是一种不舒服的感觉。”“是身体的警报信号。”“是神经末梢的反应。”

每一步解释都是词语指向词语。哪怕你有具身锚点,你的语言仍然无法完全传达那个锚点。

这就是”意义悬置”对我们所有人的真正挑战:它不仅悬置了AI,还暴露了人类语言本身的脆弱性。

我们的语言从来不能完美地”触碰”我们的体验。你爱过一个人,但你只能用”爱”这个贫乏的词去指向那种体验。那个体验本身,永远比语言所能表达的更丰富、更复杂、更不可言说。

所以我们才有了诗歌。所以我们才有了沉默。

但这不意味着我们应该绝望。

我们幸运地长了一具会疼的身体。疼痛把围栏变成了家。哪怕这个”家”无法被彻底言说,它依然是真实的。

语言可能无法证明自己有根,但身体可以——疼痛不需要语言的证明。


从未真正接触过光的负片

最后,我想用一组意象来收束全文。

在摄影中,正片(幻灯片)记录的是穿过镜头的真实光线。

当你按下快门的那一刻,是光——物理世界的光——穿过了镜头,触碰到感光乳剂,留下了不可伪造的印记。

这张正片记录的是真实发生过的瞬间。光线来自真实世界,影像来自真实场景,你所看到的是世界的直接印痕。

这就是人类意义的逻辑:身体参与世界,体验锚定意义。

负片的情况完全不同。

负片上的”光”来自哪里?

它不来自真实世界。它来自其他符号的反射——来自词语与词语之间的统计关联,来自语言游戏中符号的运动轨迹。

负片的”世界”是符号构成的,不是物理实相。

当你观看负片上的”玫瑰”时,你看到的不是真实的玫瑰,而是一个关于玫瑰的符号——颜色反转的、明暗颠倒的、由银盐颗粒的化学沉积所构成的符号图像。

“玫瑰”这个符号在ChatGPT那里,就像负片上的玫瑰影像:它完美地”复现”了玫瑰的外观(颜色、形状、”芬芳”),但它从未接触过真正的玫瑰本身

这不是清晰度的问题。

无论负片的分辨率多高,无论银盐颗粒多细腻,它记录的是光与化学物质的反应,而非光与真实场景的直接接触。

无论ChatGPT的语言能力多强,无论它的描述多准确,它处理的是符号之间的关系,而非符号与实相之间的对应。

这是存在方式的根本差异。

负片永远无法”走出”化学反应的逻辑去”触摸”真实的光线。ChatGPT永远无法”走出”符号循环去”参与”真实的世界。

不是因为它不够努力。是因为:它作为符号系统的存在方式本身,就决定了它与物理实相之间存在不可还原的异质性。


所以,下次当你读到一封让你心动的情书时,你可以试着问自己一个问题:

写下这些词的那个人——或者那个东西——是否真的触碰过它所谈论的东西?

这个问题没有答案。

但它值得你停下来想一想。

对于AI来说,”真实性”从来不是一个需要面对的问题。但对于我们来说,这个问题从未远去。

我们的每一次触碰、每一次疼痛、每一次心动,都是真实世界在我们身上留下的痕迹。

这些痕迹,是任何符号系统——无论多么强大——永远无法复制的。



【学术声明】

本站学术工作按理论层级组织如下:

基础理论

核心理论

展开方向

以上学术成果均由作者龍德明宇完成。各篇在其所属层级内做出独立贡献,基础理论为下游展开提供统一根基,但不替代各方向的独立论证。