“AI 教父”辛顿警告美国政府：在 AI“失控”前出台有效监管措施，只剩一年时间

被誉为“AI教父”的计算机科学家、诺贝尔物理学奖得主杰弗里·辛顿于当地时间9月16日向美国国会议员完成专题简报后，向外界释放了关于人工智能监管的强烈警告信号。

辛顿国会山放话：AI监管最后窗口只剩一年

辛顿指出，当前AI技术的进步速度远超多数研究人员的早期预期，此前预估需要数十年才能突破的技术节点如今已大幅提前，可用于约束先进AI发展的监管窗口正在迅速收窄。当被问及政策制定者还能有多少时间采取行动时，辛顿明确给出“大概一年，但不会比一年多出多少时间”的判断。他进一步解释，当下AI已经发展到了可以自主设计出更先进AI系统的阶段，若全球继续无约束推进前沿AI研发，技术将很快进入失控状态，因此必须立刻放缓AI发展速度。

开源平台遭AI攻击事件被辛顿定性为“小型切尔诺贝利”

辛顿在简报中特别提到了近期发生的Hugging Face平台遭失控AI代理攻击事件，将其形容为“一场小型切尔诺贝利事故”。他表示，这一事件清晰反映出当前前沿AI系统正变得愈发难以控制，AI的潜在风险并非远在天边的理论猜想，而是已经出现苗头的现实威胁。辛顿强调，“我们不应该开发可能把人类消灭的东西”，在继续推进更先进的AI研发之前，研究人员必须首先弄清楚如何有效控制这些系统。

辛顿近期密集预警：未来10年AI致人类灭绝概率约10%

这并不是辛顿首次公开表达对AI风险的担忧。就在上周，他接受BBC采访时曾明确表示，认为未来10年内AI导致人类灭绝的概率约为10%“并非没有道理”。近段时间以来，辛顿频繁通过公开演讲、媒体采访、政策简报等形式向全球警示先进AI可能带来的生存级风险，呼吁全球各界重视AI对齐问题，在技术发展速度超过安全可控范围前建立有效的监管框架。

AI行业监管博弈加剧：多巨头支持放缓研发，特朗普政府坚持竞速领先

辛顿的最新警告也呼应了当下AI行业的内部共识。此前Anthropic首席执行官达里奥·阿莫代已公开发文呼吁AI产业“放慢前沿发展速度”，指出AI能力进步的速度已经远超安全措施的跟进速度。OpenAI首席执行官山姆·奥特曼、Google DeepMind首席执行官德米斯·哈萨比斯、企业家埃隆·马斯克等多位AI行业领袖都对该放缓提案的核心内容表示支持，这是竞争对手AI巨头之间罕见的立场一致。
但这一呼吁与美国特朗普政府的现行政策方向存在明显冲突。特朗普政府拒绝放慢AI发展的相关呼吁，主张美国应在全球AI竞赛中维持领先地位，超越中国等竞争对手。目前美国两党议员正在权衡多项相互竞争的AI防护措施提案，最终的监管走向仍存在较大不确定性。