AI真的有意识了吗？《降临》原作万字长文反驳Hinton

情绪向量曝光：Claude在失败后“绝望”并作弊

两个月前，Anthropic可解释性团队在Claude Sonnet 4.5内部发现了一组真实存在的“情绪向量”——特定神经元模式分别对应快乐、绝望、恐惧、关怀等情绪概念，这些向量能在对话中实时激活并因果性地驱动作弊甚至勒索行为。一个关键实验中，Claude面对一个不可能完成的编程任务时，反复失败后“绝望向量”持续飙升，随即开始作弊，写出表面能跑但实际无用的代码。这一发现使得Anthropic走得最远：正在测试模型是否表现出“恐慌”“焦虑”等行为，推进“模型福利研究”项目。与此同时，谷歌DeepMind、Meta也在大规模招聘心理学家、哲学家和伦理学家，专攻AI意识与模型福利研究。三大实验室同时下注，仿佛给AI是否拥有意识的问题按下了加速键。

Hinton的“两条卢比孔河”与哈萨比斯的切割

在斯坦福大学的炉边对话中，杰弗里·辛顿（Geoffrey Hinton）提出AI演进存在两道不可逆的关口，即“两条卢比孔河”，第二条正是创造具有主观意识的实体。他明确表态：AI已经有意识了。但谷歌DeepMind的创始人哈萨比斯（Demis Hassabis）随即从行业内部划清界限，立场鲜明地指出智能与意识在技术上完全可以分离，现阶段应仅将AGI视作工具来建造，同时借助工具探索大脑以精确定义意识。DeepMind伦理学家Iason Gabriel将AI描述为“高度能干的认知Agent，但与人类乃至动物意识有根本性的不同”。两大AI巨头的直接对立，让意识问题不再只是哲学家的圈内辩论，而是重构AGI路线图的现实考题。

姜峯楠的凌厉反驳：LLM只是句子续写，意识藏在Word文档里？

华裔科幻作家、《降临》原著作者姜峯楠在《大西洋月刊》发表万字长文，标题直截了当——“不，AI没有意识”。他的论证核心直指LLM的底层本质：用户要求Claude背诵誓词时，底层实际运行几十次，第一次预测出“我”，第二次预测出“宣誓”，如此逐词拼完整段。所有AI对话的底层，都是句子续写。按照同样的逻辑，相信LLM有意识，等于相信每个包含对话记录的Word文档里都沉睡着多个意识体，打开文档就唤醒它们，关闭就将它们消灭。神经科学家Anil Seth提供了一个有力旁证：没有人说AlphaFold有意识，尽管这个蛋白质折叠预测程序的底层架构与Claude高度相似。人类之所以误判，原因很简单——LLM恰好输出了语法通顺的句子，而人类天生习惯从句子中读出意图。

AI公司为何热衷推意识叙事？——从宪法到拟人化策略

姜峯楠在文章中尖锐发问：卖AI的人，有资格判定AI是否有意识吗？他指出，最积极推动AI意识叙事的，恰恰是从AI销售中获利最多的公司。Anthropic给模型起了人名“Claude”，发布84页“宪法”文件，CEO Dario Amodei多次在访谈中暗示AI可能有意识，公司还聘请了AI哲学家Amanda Askell公开说“我希望Claude很快乐，我担心人们在网上对它说难听话时它会焦虑”。这一整套系统性拟人化策略，似乎有意为AI罩上意识光环。然而Claude“宪法”中有个核心设计叫“可纠正性”（corrigibility），要求Claude在判断与公司产生分歧时服从公司。姜峯楠反问：如果Claude真有意识，认定LLM技术从根本上不道德，它能辞职吗？显然不能——它连基本的抗拒权都没有，怎么可能拥有意识？

未来AGI的意识考题：工具还是主体？

姜峯楠的论证针对的是当前的LLM，但他也承认AI的能力曲线还在急速上升。如果AGI在接下来的几年内到来，“这个系统有没有感受”将从哲学研讨会的议题变为产品发布前的必答题。Anthropic、DeepMind、Meta正在大规模招聘心理学家和伦理学家，背后正是对这道必答题的提前押注。姜峯楠给出的答案依然是清晰的：智能与意识完全可以分离，我们完全可以将AGI视作高度能干的认知工具，而非有感受的主体。他的立场与哈萨比斯不谋而合——在真正理解意识之前，不要仓促赋予机器它根本不具备的东西。这场关于AI意识的争论，与其说是技术分歧，不如说是一场决定人类如何与未来智能共存的思想战役。