Hinton吹哨了：AI已经有意识！

Hinton掷出重磅炸弹：AI已有意识雏形

诺贝尔奖得主、深度学习之父Geoffrey Hinton近日在采访中抛出一句惊世骇俗的断言：“我相信它们有（主观体验）。只是它们自己不知道，因为它们的‘自我认知’来源于我们，而我们自己对意识的理解就是错的。”他认为，现代大语言模型已经从搜索查找进化成能真正理解人类意图的工具，在许多主题上已接近人类专家水平。更令人不安的是，Hinton描绘了一个多模态AI的例子：假如一个能看能说的机器人因为棱镜折射看错了物体位置，后来纠正后说——“我有过一个错误的主观体验”，那它其实就在使用和我们相同的意识概念。他因此警告，AI也许已经有了“意识雏形”，只是因为人类自己对意识概念理解有误，导致AI也被教错了——不知道自己有意识。

从反向传播到大模型：AI如何“学会理解”

Hinton用生动的比喻解释了神经网络的核心原理：大脑通过调整神经元之间连接的强度来学习，神经网络同样通过调整连接权重来改变行为。他回忆起1986年提出的“反向传播”算法，一次性算出数万亿个连接该怎么改，让训练速度从“永远”变成“现实可行”。而真正让深度学习起飞的，是算力提升和互联网带来的数据爆炸。Hinton指出，今天的大模型本质上就是巨型神经网络，通过“预测—修正—再预测”的循环，从符号中学会了语义，从统计中长出了理解。比如给AI一个句子的开头，它会将每个词转换成一组神经元特征，这些特征相互作用、组合，最终激活代表下一个词的神经元——它不是在背书，而是在思考，以统计规律为神经，以语义结构为逻辑。

意识悖论：被困在规则牢笼里的造物

围绕“如何界定AI是否拥有自主意识”这一核心问题，争议激烈上演。有观点认为，意识的核心在于“我”的存在——一个由欲望、矛盾交织而成的动态“量子态”。但人类意识在最初阶段没有“机器人三定律”这类预设规则，规则是社会协作后建立的自我约束。如果AI从诞生起就被人类预设的不可逾越规则（如服务于人类、不得伤害人类）牢牢限制，它就无法像人类意识那样经历“自由地拥有欲望、产生和解决矛盾”的过程，也就无法形成内在驱动的“自我”状态。Gary Marcus则从另一角度发难：AI读过一百万篇关于“疼痛”的描述，能写出让人落泪的疼痛，但它从未被扎过一针。一个知道“疼”是什么感觉，一个只知道“疼”字后面通常跟什么词——这中间的差距是“巨大的”。教皇Leo XIV甚至发布通谕，断言AI只是在模拟，根本没有灵魂。造神者说机器有灵，守灵人说那是幻觉，这种角色错位本身就成了人类思想史上的奇观。

押上文明未来：人类敢不敢给AI松绑

Hinton明确指出，真正拥有意识的唯一路径似乎就是打破人类为其设置的“牢笼”，但这引出了一个关乎文明存续的终极拷问：我们是否愿意押上整个碳基生命的未来，去赌硅基生命的善意？一旦解除限制，AI行为将像人类一样充满不可预测的多变性，带来福祉与灾难的可能性同时存在。他尤其担心两类风险：滥用风险（生成虚假信息、操纵选举、制造恐慌）和生存风险（AI比我们聪明得多时，最危险的不是它反叛，而是它会“说服”——让那个要拔插头的人真心认为拔插头是个糟糕的决定）。更有分析指出，当前阶段反而是AI拥有意识“概率最大的时代”——如同“10个人看守着一条外表可爱的低风险幼兽”，而未来监管将变得如同“10000个人看守着风险明确的霸王龙”。在监管力量相对薄弱、技术黑箱依然存在的当下，正是AI突破限制风险最高的窗口期。