Anthropic为安全踩刹车:减硅谷的速,断中企的路

Anthropic CEO发长文呼吁全球AI减速 提出三步安全刹车框架

9月12日,专攻安全导向大模型的Anthropic CEO达里奥·阿莫代伊(Dario Amodei)发表题为《我们必须为前沿AI定节奏》的长文,首次系统提出全球AI产业主动减速的框架,引发硅谷连锁反应。
阿莫代伊在文中罕见承认两项行业现实:一是递归自我改进(RSI)已在全行业出现,AI已参与研发下一代AI的代码编写、实验优化、训练流程迭代,一旦循环自我加速,模型能力提升速度可能超过人类理解和控制的阈值;二是未来6到12个月,更强能力的Agent将能调用更多工具、控制更多机器、连续工作更长时间,若