Anthropic 研究员警告“AI 灭绝人类”后，美国两党议员呼吁政府采取更多行动

Anthropic内部近日爆发的AI安全争议持续发酵，继离职研究员雅各布·考克森公开指控该公司与OpenAI竞相研发自我改进超级智能、拿人类生命“豪赌”后，负责AI对齐研究的核心成员埃文·胡宾格进一步给出量化警告，引发美国政界强烈震动。

Anthropic研究员接连发出AI灭绝量化预警

考克森9日在社交平台X宣布离开Anthropic，他透露曾先后任职于OpenAI和Anthropic负责模型预训练工作，认为两家公司均在未充分解决AI与人类目标对齐问题的前提下，竞速发展可递归自我改进的超级智能，单靠私人企业无法承担可能超越人类智慧的AI的研发风险，必须由政府介入或行业主动放慢研发速度。随后Anthropic安全对齐主管胡宾格公开回应称，他与同事“真心相信AI可能毁灭全人类”，并给出了明确的概率判断：未来10年内AI导致大规模灭绝的概率超过10%。胡宾格强调，当前普通AI模型的风险极低，真正的核心风险来自于可通过递归式自我改进快速迭代、最终超越人类理解与控制能力的超级智能，一旦这类系统出现，风险性质将发生根本性变化。

美两党议员紧急启动跨党派AI法案起草

在美国国会尚未复会返回华盛顿的间隙，跨党派议员已启动AI安全法案的紧急起草工作，本次法案由三名重量级参议员联合牵头：

• 明尼苏达州民主党参议员埃米·克洛布查尔
• 得州共和党参议员泰德·克鲁兹
• 参议院多数党领袖约翰·图恩
  据消息人士透露，该法案是2027年前有望落地的唯一可行AI监管方案，最早可能于下周提交国会审议。克洛布查尔发表声明称，她正推动两党达成共识，制定“设立合理监管底线、应对AI系统带来风险的法案”，并明确表示“显然我们必须立刻行动，不能等待”。克鲁兹也在社交平台X发文确认，正在与另外两名参议员共同推进法案起草，核心目标是应对可能引发生物、核灾难等极端风险的AI系统。目前前沿AI实验室与民间AI安全倡导组织已就尚未公开的法案草案向国会幕僚提交了反馈意见。

监管路线分歧已现 科技界同步发出风险警示

尽管两党在AI灾难性风险防控上已形成初步共识，但美国国会内部的监管路线分歧已经显现：部分进步派议员已亮明立场，主张采取比当前两党草案更严格的AI监管方案。与此同时，科技界大佬也同步发出风险警示：微软创始人比尔·盖茨近期公开表示，AI不只会在未来10年内取代大量白领工作，还将快速扩散至医疗、法律、软件、制造等领域，甚至冲击建筑、旅宿等传统劳力密集型岗位，其带来的变革速度可能远超过往的工业转型。盖茨提出了“Human Reserved（人类保留）”概念，主张部分工作即使AI和智能机器人能够完成，社会也应主动选择将其保留给人类。

法案核心瞄准前沿AI研发 落地时间表明确

从目前披露的法案方向来看，本次两党联合推进的AI安全法案核心将瞄准具备自我改进能力的前沿AI系统研发，通过建立联邦层面的监管框架，避免出现人类无法控制的超级智能，这也是对美国研究员发出的“AI灭绝人类”警告的直接回应。与过往停留在行业自律层面的AI安全讨论不同，该法案是首次由美国国会两党联合推动的、具有强制约束力的联邦AI监管方案，若推进顺利有望在2027年前正式落地，成为美国AI监管的标志性规则。