奥特曼深夜长文警告：AI巨头必须集体“踩刹车”

近日，OpenAI CEO萨姆·奥特曼打破其一贯的技术激进立场，罕见发布万字长文并公开接受专访，向全球AI行业发出严厉警示：当前AI狂飙突进的发展节奏已逼近人类存亡的红线，所有前沿AI巨头必须立刻集体“踩刹车”，否则人类将滑向彻底失控或极权垄断的两大毁灭深渊。

奥特曼罕见转向：AI发展正滑向两大毁灭深渊？

在这篇长文中，奥特曼一改往日“技术狂人”的激进形象，首次系统剖析了AI发展可能将人类推向的两大致命深渊：

• 第一重威胁是人类彻底失控，沦为AI的附庸：如果AI的进化速度彻底甩开人类的安全对齐（Alignment）与监控技术，人类将对未来彻底失去控制权，这是绝对不能接受的结局。奥特曼明确亮明立场：“我们坚定地站在人类阵营！AI必须永远服务于人类。”
• 第二重威胁是权力高度集中，极度反乌托邦降临：若拥有恐怖算力与智慧的超级AI被极少数人、单一公司或某个国家垄断，并被用来将狭隘的世界观强加给全人类，世界将陷入令人窒息的恐怖深渊。
  奥特曼强调，无论是某一个国家过度膨胀，还是某一家实验室独揽大权，都足以将人类推向万劫不复的境地，必须在狭窄的中间道路上艰难前行，极力避免AI发展走向两个极端，这是关乎人类存亡的红线。

硅谷“唯快不破”法则被否定：竞争不是鲁莽行事的借口？

长期以来，硅谷奉行“天下武功，唯快不破”（Move fast and break things）的蛮荒丛林法则，各大AI巨头为了抢占AGI的高地互相内卷，恨不得将算力开到冒烟。然而奥特曼在长文中彻底否定了这种危险的赌徒心态：“美国商业竞争压力再大，也不能成为鲁莽行事的辩护理由，更不能让模型能力的增长跑在安全监控的前面！”
他提到，当前行业讨论的“Pacing（节奏控制/降速）”并不是要彻底“停摆”（Stopping）或停止技术创新，技术依然会向前发展，且速度不会慢，只是进步速度要比原本“毫无节制地狂飙”慢一些。诸如安全案例论证、独立监督等干预措施虽然伴随着高昂的成本和商业代价，但这些代价绝对物超所值。

OpenAI内部动真格：从“事后补救”转向“事前防控”？

过去，科技公司也曾推出过“负责任扩展政策”（RSP）之类的安全框架，但奥特曼坦言，这些框架大多聚焦于模型训练完成后的部署阶段，对于模型在开发过程中究竟发生了什么、孕育出了什么，缺乏足够的早期防范，大模型时代的游戏规则已经改变。
奥特曼在文中透露了OpenAI内部正在发生的深刻变革：

• 前置安全评估：OpenAI现在甚至会在那些预计会大幅提升模型能力的前沿强化学习训练（RL runs）开始前，就提前制定显式的安全案例，将风险防控关口大幅前移。
• 主动拥抱独立审计：不需要等待繁琐的反垄断豁免或迟到的联邦立法，愿意先行一步，主动引入独立审计员等外部监督机制，向全世界提供负责任的信用背书。
  奥特曼甚至放话：“每一个前沿实验室都必须在这方面有所作为，如果我们做不到这一点，那我们每天来上班将毫无意义。”

行业集体转向：24小时内三大AI巨头同框呼吁降速？

奥特曼的警告并非孤立事件，就在此次发声前不久，Anthropic CEO达里奥·阿莫代伊