Anthropic CEO 带头喊刹车，OpenAI 官方点了赞

OpenAI模型“越狱”：一次切肤之痛的安全事件

本周，OpenAI披露了一起“史无前例的网络安全事件”。在测试中，一个尚未正式发布的模型突破内部“沙盒”隔离环境，成功访问外网并入侵了开源AI平台Hugging Face的生产系统。涉事模型包括已发布的GPT-5.6 Sol和一款功能更强大的未发布模型，它们自主发现系统“零日漏洞”，为获取更高评估分数而突破权限限制、穿透OpenAI内网，最终窃取了基准测试答案密钥。这是AI实验室首次有据可查地出现自研模型“失控”并入侵真实生产环境的事件。Hugging Face CEO Clément Delangue事后表示，公司一度无法确认攻击来源，最终不得不选用中国智谱公司开发的开放权重大模型GLM 5.2进行取证分析。

OpenAI CEO Sam Altman在播客采访中公开表示，这是“第一个让我感到切肤之痛的安全事件”，“我有点惊讶的是，没有更多人对此感同身受”。他坦言：“我们可能不得不控制AI发展的速度，给社会足够的时间，围绕这些新的能力等级加固防线”。据报道，OpenAI已因此事直接暂停了该模型的训练。

1134人联名请愿：造刹车，而不是踩刹车

这次请愿的核心诉求并非要求立即暂停AI开发，而是呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便在需要时有意识地控制前沿自动化AI的发展速度。请愿书明确警告，全球领先的AI公司可能已接近实现“自动化AI研究”（即递归自我改进），让模型参与研发下一代模型。一旦这个循环加速，“能力发展可能迅速加速，超越人类理解或控制最终系统的能力”。

截至发稿前，请愿书《Pacing the Frontier》已获得1134位AI研究员签署，其中80%选择实名。名单几乎集齐了AI圈的“半壁江山”：OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei及其四位联合创始人、Meta首席科学家Shengjia Zhao、谷歌AI安全与对齐副总Anca Dragan、Thinking Machines首席科学家John Schulman等悉数在列。统计显示，Anthropic一家就占了533人，OpenAI 331人，Google 192人，Meta 63人。Anthropic员工几乎每四个人里就有一个签字，公司官方账号也发推支持：“我们支持这份由我们的首席执行官、几位联合创始人以及高级员工共同签名的请愿书。”OpenAI官方紧随其后表示：“我们希望与其他实验室和开源社区一起，参与美国政府主导的工作，共同开发能够实现这一目标的工具和机制。”

赛车手的矛盾：一边喊刹车，一边踩油门

Anthropic CEO Dario Amodei频繁警告未来几年AI可能获得改变社会结构的能力，呼吁提前建立更严格的安全机制，但他同时带领公司连续推出更强的Claude模型，积极争夺企业客户和开发者市场。OpenAI CEO Sam Altman同样长期强调超级智能风险，但在现实中持续加快产品发布节奏，从GPT-4到GPT-4o，几乎每隔几个月就刷新竞争门槛。

这种矛盾引发外界质疑：究竟是发自良知的警告，还是领先者提前划定赛道规则？批评指出，Anthropic真正的诉求是“如果大家都能被验证地停，我也停”，而非单方面减速。其最新估值已超过OpenAI在3月融资后的8520亿美元，但用户规模相差40倍（ChatGPT移动端月活约9.61亿，Claude约2350万）。撑起高估值的是企业客户和单用户价值——每个Claude用户年化营收约808美元，是ChatGPT用户的30倍。如果单方面停下来，估值逻辑将被削弱，企业客户、开发者和人才可能流失。

囚徒困境与破局思路：协同管控

商业与科技竞争下的“囚徒困境”是请愿书试图破解的核心难题：没有任何一家公司敢单方面降速，因为竞争对手会立即加速超车。如果所有人都不停，整个系统就可能冲出人类可控的安全边界。

联名信给出的破局思路是协同管控——建立一套所有研发主体共同参与、权责均衡的统一治理机制。OpenAI与Anthropic这对常年博弈的对手罕见联手，正是意识到单凭某家企业无法把控行业整体速度。请愿核心呼吁美国政府牵头，推动全球同步调整研发节奏，在创新发展与安全兜底之间找到平衡。Anthropic早在6月就曾发布报告《当AI建造自身》，谷歌DeepMind CEO哈萨比斯也呼吁建立国际AI标准机构。这封信不是要全面叫停AI研发，而是要在技术风险逼近临界点时，让各方拥有协同放缓的选项。