曝 Anthropic、OpenAI 与谷歌秘密磋商:筹建 AI 安全标准机构

据知情人士透露,早在Anthropic首席执行官达里奥·阿莫代伊公开呼吁AI企业协同开展技术测试与审计前,三家头部AI实验室就已启动相关磋商,计划携手成立覆盖AI行业的安全标准机构。

曝 Anthropic、OpenAI 与谷歌秘密磋商:筹建 AI 安全标准机构

三巨头秘组AI安全标准工作组

知情人士称,自2024年7月起,谷歌、Anthropic、OpenAI便由CEO层级下的代表组成专门工作组,定期开会磋商行业标准机构的组建细节,相关工作此前从未被公开报道。其中一位知情人士透露,就在刚刚过去的一周,该工作组仍召开了新一轮磋商会议,显示出三家企业已将行业标准建设从舆论倡议推进到实质落地阶段,并非仅停留在高管公开喊话层面。

阿莫代伊倡议获行业高管公开力挺

上周六,达里奥·阿莫代伊发布博文《我们必须把控前沿发展节奏》,提出一整套AI治理方案,主张在放缓前沿AI研发速度的同时,建立独立监督机制,行业先行推行自愿性安全标准是方案核心一环。该博文在X平台发布后迅速获得多方响应:

  • OpenAI首席执行官山姆·奥特曼发文表示,放缓前沿AI研发节奏已是OpenAI近几周内部反复讨论的议题;
  • 刚卸任谷歌DeepMind首席执行官的德米斯·哈萨比斯称该提议大方向正确,部分细节仍有打磨空间;
  • SpaceX首席执行官埃隆·马斯克也对阿莫代伊的方案表示赞同。

奥特曼内部大会明确自建监管路径

本周早些时候,奥特曼在OpenAI全员员工大会上进一步阐释了公司立场:他原本乐观期待美国政府能出面支持AI安全标准机构的落地,但当前行业内部尚未形成充分共识,部分企业对监管机构构想持反对态度,因此最佳路径是联合其他AI实验室自行推进标准机构的搭建。同时奥特曼向员工明确,OpenAI自身也愿意放缓研发推进速度,配合行业安全标准落地。

白宫全国性监管方案此前已搁置

AI自我监管机构的构想已在公开舆论场讨论数月之久。今年7月,哈萨比斯发布推文,提议参照美国金融业监管局(FINRA)的模式搭建AI自律组织——FINRA是美国负责监管券商与证券从业人员行业的自律监管机构。据The Information此前报道,白宫曾传阅一份行政命令草案,拟设立全国性的AI监管机构,但今年夏末该方案未能在特朗普政府内部争取到足够支持,相关工作就此搁置。前白宫AI主管戴维·萨克斯一直公开反对建立类似FINRA的AI监管机构,不赞同政府介入AI监管事宜;据Politico报道,Meta首席执行官马克·扎克伯格也在8月与特朗普总统的电话会谈中,对全国性AI监管机构的方案表达担忧。政府主导方案的推进受阻,也成为三巨头转向自主筹建标准机构的重要动因。

Meta对监管方案立场仍不明确

目前Meta对于阿莫代伊提出的整套AI监管方案尚未明确表态。Meta首席AI官亚历山大·王周六在X平台发文称“对齐是面向全民打造个人超级智能的根基”,其中“对齐”指AI系统行为需贴合人类指令意图,但其言论并未明确支持或反对阿莫代伊的倡议,Meta的最终立场仍待观察。