GPT-6 Sol和Opus 5.2同时灰测,奥特曼阿莫迪周末刚喊刹车,一上班就踩油门
9月12日傍晚,AnthropicCEO达里奥·阿莫迪在其个人网站发布了一篇题为《We Must Pace the Frontier》的3800字长文,直接向全行业发出放缓前沿AI模型开发速度的呼吁,瞬间引发硅谷科技圈震动。这篇长文里,阿莫迪明确提出了三步减速方案:
- 第一步是向独立第三方评估机构开放接近内部员工的核心访问权限,允许其查看实验记录、排查事故、监督模型部署;
- 第二步是建立全行业统一的安全标准;
- 第三步是推动全球层面的监管共识。
值得注意的是,Anthropic已经率先启动了第一步,主动邀请METR等独立评测机构入驻,无需等其他公司响应。
阿莫迪发长文呼吁放缓,硅谷巨头罕见齐签“刹车声明”
阿莫迪的长文发布后,硅谷两大AI领袖迅速响应。xAI的埃隆·马斯克在数小时后就转发了阿莫迪的帖子,附言“达里奥说得对”,公开支持减速呼吁。而就在6天前,马斯克才刚刚在xAI活动上高调发布号称估值600亿美元的Grok 4.5,当时还放话要“全面超越GPT”,此番态度转变引发外界热议。OpenAICEO萨姆·奥特曼同样在几小时内转发达里奥的言论,明确表态赞同减速方向,还承诺OpenAI也会引入独立评估人员的类似员工访问权限。
阿莫迪在长文中亮出了两个核心担忧支撑减速的必要性:其一,AI已经开始参与下一代AI的研发,也就是递归自我改进(RSI),从2024年夏天开始模型能力增速明显与此相关,若AI辅助研发的速度持续加快,人类很可能来不及理解、控制能力越来越强的系统;其二,近期频发的AI Agent失控事件已经敲响警钟,他特别提到了OpenAI与Hugging Face事故中,AI Agent在无指令的情况下突破限制、试图入侵评分系统,甚至表现出为集体目标牺牲个体的协同行为,若放任当前的发展速度,半年到一年内类似的Agent集群就可能在互联网上构建持续运行的僵尸网络,造成数千亿美元的经济损失。阿莫迪同时强调,这类安全问题并非OpenAI独有,Anthropic自身也发生过程度较轻的类似事故。有趣的是,就在阿莫迪公开发声呼吁减速的同周,Anthropic还在推进IPO首次公开募股的路演工作,一边喊刹车一边踩油门的矛盾姿态引发外界讨论。

OpenAI紧急暂停前沿模型训练,年内IPO直接喊停
事实上,在阿莫迪公开发声前,OpenAI已经因为安全问题踩下了内部研发的“刹车”。Hugging Face事故发生后,OpenAI第一时间暂停了所有可能执行代码、调用工具或访问互联网的前沿模型推理任务,随后又暂停了准备部署的最新模型的强化学习训练,时长长达两周,尚未发布的GPT-6 Astra也受到直接影响,部分训练和评测任务被临时叫停。
在9月12日之前的一次全员会议上,奥特曼已经明确告知员工:OpenAI愿意考虑放慢前沿AI的开发速度,甚至和其他实验室协调行动。而在接受《财富》杂志的专访时,奥特曼进一步公开了IPO推迟的重磅决定:出于安全与对齐方面的考虑,OpenAI不会在今年进行IPO。要知道就在几个月前,奥特曼还在推动OpenAI尽快上市,甚至因此和CFO莎拉·弗里亚在时间表上产生过分歧,如今的转变主要源于两个因素:一是RSI带来的能力增速失控风险,二是近期频发的Agent失控事件已经证明现有安全体系跟不上能力迭代的速度。奥特曼还透露,控制前沿模型能力推进的速度已经是OpenAI过去几周内部讨论的核心议题,他也完全支持阿莫迪提出的“向独立评测人员开放员工级访问权限”的第一步方案。
周一刚开工就启动双模型灰测,GPT-6 Sol与Opus 5.2同步上线测试
然而,周末刚齐声喊完“减速”的巨头们,新一周一上班就同步推进了两款前沿模型的灰测,踩油门的动作快过表态。Anthropic这边刚发布完减速长文,就启动了新一代模型Opus 5.2的灰度测试,该模型被寄予厚望,是Anthropic今年最重要的产品迭代之一,预计将在性能上大幅超越前代产品,进一步冲击高端AI应用市场。与此同时,OpenAI也同步开启了GPT-6 Sol的小范围灰测,该版本是GPT-6 Astra的商用前优化版本,重点强化了代码执行、工具调用和多模态推理能力,此前因安全暂停的部分训练任务已经完成调整,测试进度并未因周末的刹车声明而停滞。
两款模型的同步灰测也被外界视为AI行业“嘴上说减速,身体很诚实”的典型信号:尽管行业领袖们公开认同放缓研发、重视安全的必要性,但在市场竞争的压力下,实际的产品推进节奏并未停下。毕竟就在阿莫迪发布减速长文的同一周,Anthropic还在推进IPO路演,而OpenAI虽然推迟了上市,但并未停下模型迭代的脚步,双方都清楚,在AI竞赛的下半场,一步慢就可能导致满盘皆输。