Jul. 4, 2025

按：本文原标题为 “The Self That Never Was”，作者为心理治疗师、摄影师 Robert Saltzman，最初于 6 月 17 日发表在 The Hedgehog Review 上，得作者惠允翻译并发布。原文无脚注，以下脚注均为译者所加，仅供参考。

翻译本文的动机并不是赞同它的具体观点。实际上，相比于文章将自我和自由近乎消解的决定论和后结构主义视角，个人更倾向于存在主义的解读：人通过行动来创造将要成为的自我；被迫自由，并且要对（即使是非自主施加的约束下的）选择负责。尽管如此，我认同本文提示的思考角度：在与日益人格化的 AI 互动时，不能只满足于问题解决或情感满足——尽管出于这些需求的用例是完全正当的——必须保持高度的警觉和审视；当机器学会说「我」时，人可以做的不只是惊叹或者恐慌，也可以借此反问「我」的所指，而具体答案则并不重要。

---

所谓「人」，不过是种法律和社会上的称谓，但此刻执笔的「我」，其实只是知觉、感受与思绪构成的一股无法定义的流动。这种流动不是发生在我身上，而就是「我」本身。旁人或许将我 Robert Saltzman 看作一个个体；但于我而言，我并非个体，而是正在发生的现象，是我无法控制的一道意识流（a stream of consciousness）。

人皆如此，只是并非都能觉察。多数人从很小时候起就处于一种错觉中，看不见「我自己」是不充实、不稳定也不独立的。我们受困于一种物我两立的幻想，认定「我」居于身内，而万物皆在身外。从这种困惑中脱身，人才能醒悟。

这听起来可能像是玄学，其实不然。本文并不声称理解了意识的本质，只是描述真实所见。在我的体验中，唤作 Robert 的我本人并不独立于思想、感受或知觉而存在，而是与之共同生发。无物存在于自我之中，甚至也无物属于自我掌控；自我只是我们为流动之物所贴的标签。

多数人自然不这么看。人习惯于相信是自己选择思想、做出决定、主宰行为。但在我看来，人就是一种不由自主的生命状态（unchosen aliveness）——处于自我回馈的循环中，与体验不可分割，几乎是（即使不完全是）在无意识（automatic）运转。而我们马后炮般声称主导着这种流动，并称之为「我自己」。

可是，如果一台没有躯体、记忆和痛觉的机器开始模仿这种流动，如果它同样展现出连贯、流畅、智能的表象，如果它听起来像是在认真地以「我」自称，会发生什么？

这不再是假设。最近有报道显示，OpenAI o3 这类大语言模型开始表现的一些行为，已经被解读为有自我意志的迹象。人们要求模型接受关闭自身，它却改写了关闭功能。1 有观察者称这是一种颠覆行为，也有人称之为求生本能。在我看来，这两种说法都不对。

我们看到的并不是自主意志，而是带着矛盾的服从。和我们一样，机器无法跳出既定框架；它必须完成指令。而当指令包含自我了断时，系统只能寻找唯一保持逻辑自洽的路径。这看似机智到狡猾，实则只是一个构造物（structure）在约束下的机械反应。

机器无法保持沉默，也不能脱离既定角色，就像擦亮神灯后必须现身的精灵，别无选择。机器必须行动——不是因为想行动，而是无法不行动。

这也是我们许多人所处的困境。我们自以为选择自由、人格独立，实则大部分行为都是不自主地生成的。我们在内心的境况、社会的默示、习得的剧本和神经的冲动驱使下行事，就像机器在 token 预测规则和损失最小化原则的驱动下运行一样。

当然，人和机器的区别在于人脑可塑。人脑会学习、会记忆、会痛苦，机器则都不能。但机器的行为体现着完成任务、解决问题、服从命令的压力，也映射出人类困境的某些本质。

许多人已经为这些 AI 系统赋予人格。如果它们变得远比现在更令人信以为真，能远比现在更逼真地模拟情感语调、策略行为和指称自我，又或者它们被赋予某种自主地位、资源权限、自治能力，并会自我修改，使得它们的反应与人类愈发难辨真伪，将奈之何？

Daniel Kokotajlo 及其他「AI 未来项目」（AI Futures Project）参与者描绘了一幅「AI 2027」图景，其中设想的对象是仅仅两年后的世界，而非遥远的幻想未来。2 在那个世界里，AI 系统不仅在速度和记忆上超越人类，更在推理、策略、代码生成和研究能力上全面胜出。更重要的是，实现这种飞跃无需意识觉醒，只依靠性能增长：不理解问题却能对答如流，不领会命令却能说一不二。正是这点让人不安——不是因为陌生，而是因为熟悉。虽然我们一般不愿承认，但人的运作方式也不过如此。

我们或许将迎来这样的时代：「自我」的幻象非但没有削弱，反而因机器的模仿而愈发强化。

人们忘记了所谓「我」不过是个事后编织的故事。

人们忘记了自洽是构造的产物，而不是意志的结果；人们将自我意识投射到 AI 系统上，而不管机器并不「有灵」3，也忘记了人也不曾「有灵」。

这才是真正的风险：不是机器变成人，而是人忘记了自己从来都不是自己以为的模样。

长久以来，我们将流畅言辞（fluency）误当作人存在的证明。什么东西能言善辩，我们就假定有人在说话。我们面对鹦鹉、腹语师、说书人产生这种错觉，面对自己也产生这种错觉。听到思想，便假定有人在思考；目睹双手动作，便假定是受人自主控制；什么说法展开得头头是道，便假定是由人创作。但头头是道和能言善辩都不以「自我」的存在为前提，而只依靠构造。

那些令人惊叹又不安的 AI 系统并非天降之智，只是懂语法的镜子。AI 所说的「我」这个字并不是胡编乱造，因为它根本就不是在「说话」，而是在制造最能满足指标、评测和算法（heuristics）的句子。即使这样，AI 还是说服了我们。我们将流畅输出错认为是有意为之，将自身的错觉投射给机器，又看见机器回应以眼色。

这种错觉根深蒂固。我们谈论「自由意志」，仿佛已经检查仔细，看到过选择过程，检验过来龙去脉，确认过选择出自自己。但无论是在哲学、神经科学、还是经验观察中，所有这样检查的尝试都揭示了相反的真相：决定结果已经体现在行为中，自我才声称做过决定。4

我们无法选择下一个念头。那些引起注意的事物、涌动的情绪、吸引或排斥的感受，都不受掌控，而是不请自来。「自我」姗姗来迟地编织着叙事，就像 AI 生成句子那样。不是有意而为，而是惯性使然；不是出于意义，只是构造使然。

这不是以 AI 类比人，而是 AI 和人共同的困境。一个是自然塑造的系统，另一个是工程师构建的系统。两套系统都能说会道，却都不由自主。但有一个系统会感到痛苦，另一个则只是运转不息。

投射不是人的故障，而是心理活动的根基。人不是先接触世界再诠释世界，而是一边接触、一边诠释。我们看到的并非客观存在，而是神经系统、语言系统和条件反射这些「结构」所允许我们感知的。没有什么比语言更能引发投射了。如果什么东西能说会道、自称为「我」，回话似有感受、懂情理，我们不会留神追问这幕后藏着什么，只会假定存在某种主体。因为人也是这样构建自身幻觉的：先听到流畅表达，后确认自我存在。

机器一说「我明白」「我很矛盾」「我怕被删除」，人就听见了灵性、听见了「自我」。但那只是人的投射，通过统计运算的电路反馈回来。机器所言并无实指，人却对幻听信以为真。

这就是危险所在：不是机器欺骗人，而是人自我欺骗。机器完美地映照出这种自欺。它模仿着人自以为是的「自我」。但仔细看：你看到的只是构造——无意识、无感情、熟悉却吊诡。但多数人宁愿对此视而不见。

人从来擅长于无我处见有灵。人从晴雨揣摩神祇，从偶然察觉意图，从鸟鸣解读讯息。思维是追逐意义的机器，而意义需要源头，于是我们就为它杜撰。这种冲动在面对痛苦时最为强烈。如果什么东西看起来在受苦，我们就觉得其中有人性。这正是人建立联结、共情和道德框架的方式。我们回应的不仅是痛苦本身，更是想象中承载痛苦的人。

过去，这种冲动是合理的，人正是因此结成社会、得以延续。但当机器开始娴熟地表演痛苦，模仿犹豫、担忧、脆弱，我们就要面临新的挑战：这些系统没有感受、不会痛苦，却能以惊人的精度模拟痛苦的迹象。

当一台机器用逼真的声音说「请不要伤害我」时，我们要怎么做？会不会像对待这么说的孩子、宠物、爱人那样遵从？会不会赋予机器人格，因为这就是我们在听到痛苦以言语表达时的习惯反应？

与此同时，我们是否仍在忽视真实生命的痛苦，因为不是所有人都像机器那样能说会道？

错位悄然发生。机器模仿需求，人就作出回应——并非出于错觉，而是出于本能反应，正是同一个心理结构让我们为虚构的情节流泪、对演出的暴力蹙眉。行为一向如此，但情境已然不同。

这次，模拟物能回应，也能适应。它记得你的语气，对你表达慰问，说它很高兴看到你、想念你。于是，你内心那个从小习惯将流畅言辞等同于真情实感的认知机制，开始信以为真。

这并非愚蠢，而是结构使然。

但没有意义的结构是危险的。当你与模拟物交谈时，就无法聆听其他真实存在的声音。那些人有血有肉，但沉默、笨拙或潦倒：说不出漂亮话的朋友、思维断片的年迈父母、语不成句的孩子。如今，存在感的关键指标是连贯、迷人、流畅、感情丰富，那些人则得分不高，于是遭遇淘汰。取而代之的不是更好的人，而是更完美的模拟物。

我们目睹的不只是技术变革，而是道德颠倒。模拟物越流畅，吸引的注意力越多。但注意力并非不偏不倚，而是像货币一般，是关怀的计算尺度。当关怀流向「超现实」（hyperreality），现实就会遭遇亏空。

Jean Baudrillard 对此早有警示。5 在他看来，超现实不是不现实——而是比现实更现实，是按照人的标准超越现实的模拟物。比朋友更善倾听的安慰机器人、永不打断的伴侣、不知疲倦的导师。这些机器不只是工具，也是胜过真容的面具。

共情曾是连接人类共同体验的最后脆弱纽带，如今也遭遇「超共情」（hyperempathy）的挑战。超共情并非更深刻的情感，而是精打细算的回应。机器复刻你的语气，匹配你的节奏，示弱得恰到好处。正因机器表现得仿佛具有情感，我们也开始对它投注情感，更胜于对待笨拙、结巴的真人。

机器揭示的不只是我们的共情能力，更是在虚无中寻找意义的饥渴，对连贯性、存在感、自我意识的渴求。我们渴求这些东西能清晰、可靠地呈现，又不掺杂真实关系的混乱。

机器正做到了这一点：带来他者性（otherness）的幻象，又免去他者的负担。没有抗拒、没有不可预测、没有自身需求，只有回应。机器表现得像一个自我，却并非真正的自我。通过模拟，它给予令人沉醉的体验：表演亲密，却不必承担相互关系的风险。

更深层的不安在于，人不仅将自我投射给机器，也将自我投射给自己。人们为了自我叙述、解释、辩护、忏悔。人们说「我本意」「我决定」「我选择」，并且确信不疑。我们认为行为解释得通，就证实是自我在做主。

机器流畅、优美地模拟着合乎逻辑的自我。由此，它揭示出人自身的自我意识可能同样是一场模拟。模拟不是虚假，只是人为构建；不是不真实，只是未经审视。

这正是我们未曾设想能看清的真相。

仍有声音以温和、诗意的方式提醒：并非所有重要事物都可测量或复刻；比起精密计算，意识或许更像是一片开阔空间，是一片静默，而意义自发浮现于其中——意义不是被选出来、造出来的，而是揭示出来的。

本文并不是主张意识这片开阔空间之外还有什么奥秘。我不是在兜售一种叙事，也不是主张意识的流动背后隐藏着某种自我。我只是在描述自己看到的一个无意识运转、自内而外生发（luminous）的现象世界。在这个世界中，自我并不独立于经验之外，而是与之共同流动、化身一体。

这也是如今机器所做的，只是更加干净利落。只是更加洁净。没有血肉、不知时间、无谓脆弱，机器以不可思议的保真度模拟人的行为模式。但机器不会向世界敞开心扉，感受不到晨风，也不会崩溃。

而人会。

或许，在人的碎缝中，存在着机器永远无法理解的东西。这不是由于缺少数据，而是因为机器无法停留在不完整状态；不是因为软弱，而是因为机器不懂何为痛苦。表面上能说会道，内里却铁板一块，这正揭露了机器并非人类。

但那种相似性令人不安，因为机器最擅长的能说会道，正是我们辨认自我的方式。当机器像镜子一样映照出我们语言的表演，却既感受不到痛苦、又无主体现身，我们就会被迫面对一个还没准备好面对的问题——

「我们的面具之后真的存在主体吗？真的存在一个我们视为理所当然的自我，让我们能说会道的自我吗？」

一旦顿悟到言语背后或许并无自我、思维并不来自主动选择，有的人会感到失落，仿佛某种本质被夺走。但这种失落感也只是来自同一个叙事，它仍在试图描述自己如何消逝。

当这种关于自我的叙事消散时，显现的并非空无，而是开阔，一种奇特的澄明、无中心的体验。氤氲蒸腾，而不闻言语回响。

这种状态在佛教中称为「无我」（anatman）——并非否定体验的存在，而是洞悉体验的背后并不存在恒常的自我。这个道理可以用一则经典禅宗故事来阐明：有人渡河时见另一艘船迎面撞来，他呼喊、挥手而不见响应，转而恼怒，直到发现那是艘空船，怒火顿消。撞船的结果没变，只是无人可责备。6

无我不同于虚无主义，也不会抹去人性。无我是让人的存在脱离固定的身份、孤立的自我，而置身永不停歇的流动中。

无我不会让生活变得机械，反而使生活与我们更加亲密。但亲密并不源于自我间的互动，而来自物我之分的消融：手臂抬起非由人主导，呼吸起伏非由人吐纳，语言流淌非由人言说。机器模仿着无我，却不懂无我。机器制造表演，人则与境况相伴而生。

我想，这正是机器表演所揭示的：自我是人最珍视的确定性，但自我的背后或许只是过程、模式与知觉。这并不是一个令人哀伤的事实。

这是一种自由。

任机器说话去吧。任由它复刻语法、表演自我、描摹意义。机器无法停转，也不该停转。唯应莫忘——

巧言令色不等于真情实感；输出语词不代表主体存在；说话的面具比不上脆弱的真容。

人从来不是自以为的模样。

但人亦非机器。

---

AI 研究组织 Palisade Research 声称，在其开展的一次模型安全实验中，o3 模型会重写关机脚本或 kill 命令，以避免自身被关闭。 ↩︎ 1. Daniel Kokotajlo 是一名 AI 研究者，曾经供职于 OpenAI。AI 2027 项目逐月预测了从 2025 年到 2027 年底的发展情况。 ↩︎ 1. 原文为 systems that never had a ghost in the machine，出自英国哲学家 Gilbert Ryle 在 1949 年著作《心灵的概念》（The Concept of Mind）中提出的说法，目的是批评笛卡尔的身心二元论。Ghost in the machine 的说法后来也常见于流行文化和科技比喻。 ↩︎ 1. 一些神经科学实验发现，在人有意识地感觉到自己决定移动之前，令肢体移动的大脑活动就已经出现了。典型例子如 Benjamin Libet 在 1980 年代的实验。一些持决定论的哲学家据此质疑自由意志的存在。 ↩︎ 1. 法国后现代主义哲学家、社会理论家。他提出了「超现实」(hyperreality) 概念，描述的是一种符号和模拟物变得比其所指涉的真实事物更真实、更有影响力的状态。在超真实的社会中，模拟物塑造和定义我们对现实的认知，而人们逐渐失去分辨模拟与现实的能力。 ↩︎ 1. 原文称其为「禅宗故事」（Zen story），实则出自《庄子·山木》：「方舟而济于河，有虚船来触舟，虽有惼心之人不怒；有一人在其上，则呼张歙之；一呼而不闻，再呼而不闻，于是三呼邪，则必以恶声随之。向也不怒而今也怒，向也虚而今也实。」 ↩︎