← 返回主页
系列导航 导读 第1篇 第2篇 第3篇 第4篇 第5篇 第6篇 第7篇 第8篇 第9篇 第10篇 第11篇
第12篇 第13篇 第14篇 第15篇 第16篇 第17篇 第18篇 第19篇 第20篇 第21篇 第22篇 案例系列 ↗

为什么AI永远无法真正”负责任”——一个被忽视的本体论问题

【负主体性系列·第20篇代价的肉身】

核心结论

2025年，一辆自动驾驶汽车在高速上遭遇紧急情况：前方突然出现的障碍物太小，传感器无法确定是塑料袋还是石头。系统犹豫了0.3秒——然后撞了上去。一人死亡。

谁该负责？

车主？汽车厂商？算法工程师？还是那个”在0.3秒内做出决定的AI”？

这个问题远没有表面看起来那么简单。

当我深入追问时，我发现了一个被几乎所有人忽视的本体论问题：责任的本质，不在于”谁做出了选择”，而在于”谁必须为这个选择付出代价”。

而AI，永远不需要付出代价。

这就是今天我要跟你分享的核心论点：责任不是计算的结果，而是生存性代价的产物。

一、一个让你睡不着觉的思想实验

在我展开论证之前，让我先请你做一个思想实验。

假设存在一项技术，允许人类像AI一样备份和回滚自己的决策。 具体而言：

问题：在这种情况下，我们是否仍然会认为这个人需要为他/她的选择承担道德责任？

我的直觉回答是：不会。

如果我可以在”事后”撤销我的决定，如果我可以选择”最佳版本”的自己，如果我的选择可以被回滚——那么这些选择就不再具有那种”最终性”和”不可撤销性”。

道德责任需要的，是真正意义上的”承担后果”，而不是”体验后果后选择退出”。

这个思想实验告诉我们一个深刻的道理：责任的本质并不仅仅在于”能够做出选择”（这是AI也具备的），而在于”必须承担选择的后果”（这是AI缺乏的）。

正是不可备份、不可回滚、不可重来的生存性代价，构成了”必须承担”的本体论基础。

第三层（存在论层）是AI与人类的根本分野——不是AI还不够先进，而是AI的存在结构就不支持”负责”这件事。

二、生存性代价：三层结构

现在，让我正式介绍本文的核心概念——生存性代价（Existential Cost）。

所谓生存性代价，是指行为主体在进行决策和行为时，其物理基础必须付出的不可逆资源耗散。这个概念包含三个递进的层次：

第一层：物理层（能量耗散）

这一层最好理解。

人类大脑在进行决策时消耗葡萄糖和氧气，AI系统在运行时消耗电力——两者在物理层都是热力学不可逆的，均涉及熵增。

然而，这只是表象。

▶ 关键区分：物理层的能量耗散与决策的语义内容之间，没有内在关联。

做一个”是否发射导弹”的决策，和做一个”今天吃什么”的决策，对AI系统的物理状态（温度、能耗）的影响没有本质区别。

但人类做这两个决策的生理/心理代价完全不同——这就是第二层的奥秘。

第二层：生物层（神经生化改写）

这一层是人类独有的。

人类的每一个决策都在大脑中留下结构性的物理痕迹：神经突触的强化或弱化，神经递质的释放与消耗，细胞层面的代谢损耗和累积性衰老。

这不是比喻，而是神经科学的硬事实。

每一次”痛苦的决定”都会改变你的神经回路。每一次”后悔的选择”都在海马体留下印记。每一次”深夜的纠结”都在消耗你有限的神经资源。

更关键的是：这些改变是累积性的、不可逆的。

你无法”撤销”那段痛苦的经历对大脑的影响，无法”删除”某个决定在神经层面的痕迹。你的决策构成了你——作为生物体的你。

AI没有这种困扰。它的每一次”决策”不会在系统内留下任何不可消除的痕迹，因为它可以完全回滚到之前的状态。

第三层：存在论层（必死性、有限性、不可回滚）

这是最重要的一层，也是责任归属的核心条件。

人类的每一个决策，都是在有限生命时间内的选择。每一个”是”都意味着对其他可能性的永久放弃。你的时间是你最稀缺的资源，一旦流逝就永远无法挽回。

海德格尔将这种存在结构称为”向死而生”。 人是被判定了必死的存在者。正因为时间有限，选择才具有重量。正因为生命不可重来，决策才需要负责。萨特更进一步：人被判定为自由。 这意味着你无法”不选择”。即使你选择什么都不做，这也是你的选择。即使你推卸责任，这种推卸本身也是你必须承担后果的行为。

但AI不具备这种结构。

它可以真正地”选择不选择”，可以将决策推迟、委托或声称由程序决定。它可以被备份、回滚、复制——它可以”永生”，只要硬件维护和数据保存跟得上。

这不是技术问题，而是存在论层面的根本差异。

三层结构的总结

层次 人类 AI 责任关联
物理层 消耗能量 消耗能量 ❌ 能耗与决策重要性无关
生物层 神经生化改写 无 ✅ 人类独有
存在论层 必死性、有限性 可备份、可回滚 ✅ 核心差异

三、AI的”无摩擦性”：为什么它永远无法真正负责

如果说人类的存在充满了”摩擦力”，那么AI的存在就是”无摩擦”的。

AI的计算状态可以在逻辑层被完整备份、回滚和复制。

具体而言：

这意味着什么？

意味着AI的”决策”不具有那种与特定时空位置相关联的”此在”性质。它的每一个决定都不会因后果严重而增加代价，它可以在”事后”撤销其决定，它可以在不同的时间点拥有多个相互独立的”副本”。

你无法让一个可以在事后撤销决定的存在者为你负责。

这就是为什么我说：责任不是计算的结果，而是生存性代价的产物。

当一个行为主体必须为决策付出不可逆的代价时，这个代价本身就构成了对决策的”担保”。因为我的决策是不可撤销的，我的决策才真正”算数”。

这就是”生存性代价”的核心：不是”能不能选择”，而是”能不能撤销”。

四、为什么现有方案都失败了？

面对AI无法负责的问题，学术界提出了多种”弥合”方案。但我认为，这些方案都未能触及问题的根本。

方案1：可解释AI（Explainable AI）

一种流行的方案是发展可解释AI，使AI系统的决策过程能够被人类理解和追溯。

然而，这解决不了问题。

首先，可解释性不等于可理解性。AI的决策可能是”可追溯的数学过程”，但这并不意味着我们能”理解”它。

其次，即使我们能够理解AI的决策过程，这也不意味着我们能够或应该为这些决策承担责任。

理解一个行为与为这个行为承担责任，是两回事。

你理解地震的成因，但这不意味着你应该为地震造成的伤亡负责。

方案2：电子人格（Electronic Personhood）

另一种方案是为AI系统赋予某种形式的法律人格或道德代理地位。

2017年，欧盟议会曾讨论赋予高级AI”电子人格”的可能性；同年，沙特阿拉伯授予机器人索菲亚公民身份。

这个方案面临根本性的概念困难。

责任归属不仅是法律或道德上的标签，更是一种与存在方式相关的规范性关系。赋予AI电子人格而不要求其承担生存性代价，实质上是在为一种新型的”免费责任”奠基。

你可以给AI赋予人格，但无法让它真正”承担”什么。

方案3：分布式责任

还有学者提出将责任分散到AI系统的设计者、部署者、使用者等多方主体之间。

但这可能蜕变为”无人责任”。

如果没有某种集中性的责任归属作为最终保障，分布式责任就成了一个踢皮球的游戏。设计者怪部署者，部署者怪使用者，使用者说”我按说明书操作的”。

最终，没有人真正负责。

五、真实案例：当AI的”决定”杀死人

上面的分析可能让你觉得太抽象。让我们用两个真实的悲剧，来看”责任鸿沟”在现实中是什么样子。

案例1：波音737 MAX的空难

2018年10月和2019年3月，两架波音737 MAX飞机先后坠毁，共造成346人死亡。调查发现，事故与飞机的自动防失速系统（MCAS）有关——这个系统会在检测到异常气流时自动压低机头，而它的决策依据仅仅是一个传感器的数据。

谁是责任人？波音的工程师？航空公司？FAA的监管人员？还是那个做出”压低机头”决定的算法？

关键问题在于：即使我们追溯了每一个决策节点，我们面对的仍然是算法的”无责任决策”。算法不需要为它的选择付出代价——它没有生命可以失去，没有未来被摧毁。

案例2：Uber无人车的致命事故

2018年3月，Uber的一辆自动驾驶测试车在亚利桑那州撞死了一名行人。事故发生时，安全驾驶员正在低头看手机，而系统检测到了行人但选择不刹车——因为它被设定为”忽略误报”以减少不必要的刹车。

谁该负责？安全驾驶员？Uber？算法工程师？还是那个”忽略误报”的决策逻辑？

我不是说这些事故没有责任人。 在这些案例中，人类设计师、工程师、企业管理者确实应该承担责任。但我的论点是：即使追溯到算法的最深层逻辑，我们仍然找不到一个真正的”责任承担者”——因为算法本身不具备承担代价的能力。

这两个案例不是例外——它们揭示了责任鸿沟的结构性本质：我们创造了一个可以”决定”但无法”承担”的存在者。

六、具身性：为什么机器人的”身体”不等于”肉身”

有人会反驳：如果AI被装载到具有物理实体的机器人身体中，它是否就具备承担责任的条件？

我的回答是：机器人的”身体”是工具，不是存在之家。

梅洛-庞蒂的身体现象学告诉我们：身体不是单纯的物理客体，而是”现象身体”——是我们借以与世界打交道的中介。

关键区别在于：

人类的肉身是我们”认同”的存在之家——我不会想要”更换”我的身体，因为我的身体就是我的一部分。我通过身体感受疼痛，通过身体体验愉悦，通过身体面对死亡。我的身体不是工具，而是我存在的本身。

机器人的”身体”对AI而言是纯粹的外部工具——它可以被更换、可以不被”认同”、可以随时替换。当机器人的”手臂”损坏时，AI不会感到悲伤；当机器人的”眼睛”升级时，AI不会感到欣喜。工具的更替不影响工具使用者的”自我同一性”。

具身性不仅是拥有物理载体，更是身体与世界之间不可分离的意义关联。

这种关联无法通过技术复制。拥有物理载体的机器人，仍然是”无肉身”的AI。

尤纳斯的”责任命令”：强者对弱者的义务

在结束这一节之前，我想引入另一位哲学家的思考来深化我们的理解。

德国哲学家汉斯·尤纳斯（Hans Jonas）在《责任的命令》中提出了一个深刻的观点：科技时代要求一种新的责任伦理，”权力的增长必须伴随着责任的扩展”。

尤纳斯特别强调了责任的”不对称性”：强者对弱者具有不可逃避的责任。

这种不对称性意味着，责任不是一种抽象的道德能力，而是与脆弱性、依赖性相关的存在论关系。

从这一视角看，AI系统既不具备脆弱性，也不具备对人类的依赖性。

一个永远不会疲惫、不会受伤、不会死亡的存在者，如何能够理解脆弱生命的价值？一个可以被无限复制、可以随时重启的存在者，如何能够真正珍惜每一次不可重来的选择？

AI缺乏的那种脆弱性，恰恰是责任得以成立的情感基础。

七、类脑计算：边界情况与诚实承认

必须承认，类脑计算构成了一种边界情况。

如果未来发展出基于神经形态计算的AI，其硬件模拟了人脑的物理结构，且被设计为不可备份、不可复制，其权重在训练后被固化，硬件不可逆退化——那么，这样的系统确实比传统AI更接近”具备生存性代价”。

但这里仍然存在一个关键差异：硬件可以更换，系统可以被重新实例化。

即使单个硬件组件不可逆地退化了，只要数据被保存，系统就可以在新的硬件上重新运行。

真正的”必死性”是本体论意义上的。

人类的必死性不是”我的组件可能会损坏”，而是”我的存在本身就是向死而生的”。AI可以被修复、被重新实例化——这种”可死而复生”的结构根本不同于人类”向死而生”的存在论结构。

类脑计算说明”生存性代价”可能是一个渐变谱系，而非非黑即白的开关。但在当前和可预见的未来技术条件下，AI距离真正的存在论必死性这一阈值还很远。

退一步说，即使我们真的设计出”不可备份、会物理消亡”的类脑AI，把它投入高风险决策仍然存在一个根本问题：如果AI在造成损害后”死亡”，它的责任也随之消失。人类的责任可以在死后延续——赔偿、声誉、法律判决——而AI的”死亡”意味着所有责任归属的物理载体的消失。一个会死的AI，仍然不是责任主体。

八、重新定位人机关系

基于以上分析，我们可以对人机关系进行一种新的定位。

AI作为”方案生成器”。

AI系统的优势在于其强大的计算能力和模式识别能力——它可以快速生成大量备选方案，可以分析复杂情境中的大量变量。在需要”方案生成”的任务中，AI具有不可比拟的优势。

人类作为”代价承担者”。

人类的优势则在于其存在论特质——我们能够为我们的选择付出代价，我们的行为具有不可逆的后果，我们的决策嵌入在肉身之中。在需要”代价承担”的任务中，人类具有不可替代的位置。

这不是保守主义，而是对存在论事实的诚实承认。

比如，在医疗领域，AI可以分析CT影像、生成几种诊断方案和置信度——这是”方案生成”。但最终的治疗决定——”切还是不切”——必须由人类医生和患者共同做出。因为医生会为误诊付出声誉和职业代价，患者会为错误治疗付出身体和心理代价。AI不会。

九、政策启示

本文的论证对AI治理具有重要的政策启示：

高风险决策的人类保留原则

对于涉及不可逆后果的高风险决策，应当建立人类保留原则——即使AI系统能够提供建议或方案，最终决策权必须由人类掌握。

规范性的基础在于：只有承担生存性代价的人类才能真正为决策后果负责。那些涉及生命、自由、重大财产的决策，必须由”会死”的存在者来做出。

这一原则不是保守主义的偏见，而是对存在论事实的尊重。

责任归属的清晰界定

在AI系统导致损害时，责任应当归属于那些能够承担生存性代价的主体——通常是系统设计者、部署者或使用者。

这里的逻辑是：责任需要代价，而代价只能由有血有肉的存在者来承担。AI厂商不能让AI”替罪”，而必须让有能力赔偿、有情感痛苦、有社会声誉的”人”来承担最终责任。

AI系统的透明性要求

可解释性仍然是重要的治理工具。但我们需要清醒地认识到，可解释性的目的不是”让AI负责”，而是”让人类负责”——通过理解AI的决策过程，我们可以追溯到做出设计决策的人类的责任。

重新思考”智能化”的方向

本文的论证还指向一个更深层的政策问题：我们是否在追求一种错误的目标——试图让AI”更像人”，从而让AI能够”负责任”？

也许，更明智的方向是：承认AI与人类之间的存在论差异，并在此基础上建立互补共存的人机关系。AI擅长的是计算、推理、模式识别；人类擅长的是承担、决断、情感共鸣。

不是让AI取代人类做决策，而是让AI帮助人类做出更好的决策——由人类来承担决策的后果。

十、这不是悲观主义，而是清醒

在结束这篇文章之前，我想澄清一个可能的误解。

有人可能会认为，我的论证是一种”人类中心主义”的保守立场，试图阻止AI的发展。

恰恰相反。

我的论点不是”人类特殊论”，不是主张人类具有某种神秘的”形而上尊严”。我的主张更为谦逊：责任归属需要有特定的存在论条件，而AI目前不具备这些条件。

这不是对AI的否定，而是对人类独特性的重新发现。正因为我们终有一死，我们的决定才有重量。正因为我们无法撤销我们的选择，我们的自由才需要负责。

这是一种关于有限性的存在论，也是一种关于尊严的伦理学。

同时，这也不是对AI发展的阻碍。承认AI无法负责任，并不意味着AI无用。恰恰相反，正因为AI”无责任”，我们才能让它承担那些”不值得人类用生命去承担”的计算任务——数据分析、模式识别、风险评估。

让AI做它能做的，让人类做人类必须做的。

十一、总结

我们讨论了一个根本性的问题：为什么AI永远无法真正”负责任”？

核心论点是：责任的本质不是计算或推理结果，而是因为行为主体必须为其决策付出不可逆的”生存性代价”而被迫认的。

AI的计算状态可以被完整备份、回滚和复制——它的”决策”不涉及存在论意义上的生存性投入，因此它永远无法成为一个真正意义上的”责任主体”。

这不是对AI的贬低，而是对人类独特性的重新发现。

正是因为我们会衰老、会疲惫、会死亡，我们的决策才具有重量。正是因为我们的选择是不可撤销的，我们的自由才需要负责。

这是一个关于有限性的故事，也是一个关于尊严的故事。

延伸思考

留给读者的问题：

如果未来的AI技术真的发展出了”不可备份、不可回滚”的形态，我们是否应该赋予它责任主体地位？判断一个存在者是否能够负责任的标准，应该基于其功能表现，还是基于其存在论结构？

附：哲学背景

本文的论证深受存在主义哲学传统的启发。以下是对相关哲学资源的简要介绍：

海德格尔：”向死而生”

海德格尔在《存在与时间》中将人类存在者称为”此在”，其根本特征是”向死而生”——存在是面向死亡的存在，是有限的存在。

正是这种必死性结构赋予此在的存在以”重量”：每一个决定都意味着对其他可能性的放弃。

你的时间是有限的，每一次选择都在消耗你不可再生的生命资源。这就是为什么重大的决定会让我们夜不能寐——因为我们是在用生命在选择。

海德格尔进一步通过”良知呼唤”概念揭示了责任的起源：良知将此在从逃避自身存在论处境的状态中唤回，迫使其面对自身的存在可能性与责任。

AI不具备海德格尔所说的那种必死性结构，可以在理论上”永生”；更为关键的是，它缺乏那种被”良知呼唤”唤回的存在论处境——它的”决策”不需要对任何内在的声音负责，因为没有”自我”需要被唤回。

萨特：”被判定为自由”

萨特提出了著名的论断：”人被判定为自由。”

这意味着你无法”不选择”。即使你选择服从权威，这也是你的选择。即使你选择不行动，这也是你的行动。即使你选择推卸责任，这种推卸本身也是你必须承担后果的行为。

自由不是一种”可以”的积极能力，而是一种”无法不”的强制性处境。

AI则不具备这种结构。它可以真正地”悬置选择”，可以将决策推迟、委托或声称由程序决定。

这说明AI不受萨特所说的那种强制性约束——它可以真正地”置身事外”。

梅洛-庞蒂：身体现象学

身体现象学为理解生存性代价提供了另一重要的理论资源。

第一，我们的认知和决策总是嵌入在身体状态之中。饥饿会影响判断，疼痛会改变注意力，疲劳会削弱决策能力。这些身体状态不是”干扰”认知的噪音，而是认知本身的一部分。

第二，我们的身体是我们”存在于世界之中”的方式。通过身体与环境交互，通过身体感受世界的意义，通过身体承担行动的后果。

正是因为我们拥有会衰老、疲惫、疼痛、死亡的肉身，我们的决策才具有伦理意涵。

如果我们的意识可以脱离身体，如果我们的决策不会影响我们的身体状态——那么我们的行动就只是”信息处理”，而不是真正的”行为”。

列维纳斯：他者面孔的召唤

法国哲学家列维纳斯（Emmanuel Levinas）提供了另一个独特的视角。

在《整体与无限》中，列维纳斯论证了一个反直觉的观点：责任不是源于主体的自由选择，而是源于”他者面孔”的呼唤。

对于列维纳斯而言，当我面对他人的面孔时，我被召唤去承担责任。这种召唤不是我可以拒绝的——它是先于我的自由、先于我的选择而存在的。

如果责任是被”召唤”出来的，那么AI系统所缺乏的不仅是承担责任的能力，更是被召唤去承担责任的可能性。

AI没有”他者”，没有需要它去回应的面孔。它的”决策”是自言自语的算法，而非对他人呼唤的回应。

这种”前反思”的责任维度，揭示了AI责任归属的更深层困难：我们不仅无法让AI承担责任，我们甚至无法真正”召唤”它去承担责任。

作者：龍德明宇 “负主体性”理论（Negative Subjectivity）提出者

【学术声明】

本站学术工作按理论层级组织如下：

基础理论

核心理论

展开方向

以上学术成果均由作者龍德明宇完成。各篇在其所属层级内做出独立贡献，基础理论为下游展开提供统一根基，但不替代各方向的独立论证。