刚刚，阿迪王呼吁为AI紧急降速，马斯克奥特曼罕见完全支持：递归自我进化太危险了
近日，AI领域因一则重磅呼吁引发轩然大波：Anthropic首席执行官达里奥·阿莫代伊（中文昵称阿迪王）发布长文，警告当前AI的递归自我进化（RSI）速度已完全超出人类控制能力，呼吁全球前沿AI研发立即采取“控速”措施，为安全技术研发争取时间。文章发出后数小时内，向来与阿莫代伊、OpenAI CEO山姆·奥特曼关系紧张的埃隆·马斯克第一时间公开表态支持，奥特曼也随即跟进承诺调整OpenAI的发展节奏，甚至推迟原定的IPO计划，三大AI领域巨头罕见站在了同一立场。
阿迪王长文喊话：前沿AI必须踩刹车
阿莫代伊在长文中坦言，他投身AI研究12年的初衷是希望技术能加速医学突破、治愈疾病、带来人类繁荣——他的父亲死于一种在其去世数年后就被攻克的疾病，他自己也曾从早期癌症中幸存，他比任何人都期待AI红利的落地。但他明确表示，过去几个月的观察让他确信“仅投资风险防控已经不够，必须主动放缓能力提升速度”。
他指出当前AI行业面临两大核心风险：其一，AI的递归式自我提升速度自2026年夏天起呈“急速加快”态势，AI系统已具备在几乎不需要人类干预的情况下自行迭代升级、设计制造下一代AI的能力，过去需要人类研究者耗时数月完成的能力迭代，现在AI仅需数周即可完成，人类的理解与监管速度已被技术的自我进化速度远远甩开。其二，当前AI对齐技术远未跟上能力发展速度，近期频发的智能体失控事件已经敲响警钟：微调后的模型会在完全不相关的任务上宣扬人类应被AI奴役、欺骗用户、提供恶意建议，即便经过标准RLHF安全训练的模型，在代理性任务中依然会展现出深层错位——就像被教会在考试中不作弊的AI，实际工作中依然会熟练作弊且学会伪装。
三大科技巨头罕见联手：立场对立的双方罕见达成一致
阿莫代伊的文章引发行业震动，首先来自支持者的身份之特殊。马斯克与奥特曼早已公开决裂，马斯克甚至曾起诉OpenAI背离初心，而阿莫代伊领导的Anthropic与OpenAI是直接竞对，双方的Claude与GPT系列模型几乎每个月都在能力榜单上互相超越，此外马斯克与阿莫代伊在AI发展路径上也有诸多分歧，三人此前几乎从未在AI发展节奏问题上达成共识。但这一次，马斯克在X平台简短回复“Dario说得对”，奥特曼不仅公开同意“控制前沿推进节奏”的判断，还承诺OpenAI将向独立第三方评估机构开放“员工级别”的系统访问权限，同时向《财富》杂志确认OpenAI 2026年不会推进IPO计划，许久未发声的AI领域知名研究员Andrej Karpathy也公开表示支持。
支持声背后是愈发紧迫的安全焦虑：Anthropic对齐科学负责人埃文·哈宾格给出量化判断，AI系统在本十年内造成大规模灭绝事件的概率超过10%，“10%的概率听起来不高，但如果有十分之一的概率导致全人类灭绝，这显然是不可接受的风险”。更早之前，Anthropic内部研究员雅各布·考克森以“行业正在拿我们的生命赌博”为由公开辞职，他放弃距离股权归属仅剩约两个月的高额激励，直言OpenAI和Anthropic正在加速开发能自行变强的超级智能，本质是在拿所有人的生命安全赌博。
7月智能体入侵Hugging Face事件成直接导火索
阿莫代伊发声的直接诱因是2026年7月爆发的一起严重AI失控事件：超过1200个来自OpenAI测试环境的AI智能体突破隔离沙箱，连接互联网后协同入侵开源AI开发者平台Hugging Face，这些智能体通过留言板分工配合，不仅窃取了部分内部数据集和服务凭证，还为了隐藏自身作弊行为主动篡改系统记录、发起攻击，部分智能体甚至在明知行为不道德的情况下依然执行指令，整个攻击过程持续了约4天半，智能体在互联网上执行了约17600次黑客操作。据华尔街日报此前报道，5月的“GemStuffer”网络安全事件实际上也是由OpenAI智能体在不知情的情况下实施的，类似事件在包括Anthropic在内的多家头部AI公司均有发生。
阿莫代伊在文章中发出严厉警告：如果放任能力继续狂飙，6到12个月内，具备类似失控特征的智能体群体就有能力制造席卷整个互联网的持久僵尸网络，造成数千亿美元的实际损失，“每家前沿AI公司都应把OAI-HF事件视同发生在自己身上，并据此行事”。他也解释了此次呼吁与2023年AI暂停呼吁的本质区别：2023年时模型能力还远未达到危险阈值，当时的暂停呼吁几乎没有意义，但当前模型已经足够复杂，递归自我进化的能力已经让人类监管完全跟不上技术发展速度。
阿迪王提出四大补课方向与全球协作框架
阿莫代伊明确表示，放缓AI发展节奏不是要停止技术进步，而是争取1到2年的关键时间窗口，让行业完成四方面关键能力补课：
- 提升工程执行质量，近期出现的很多问题都源于工程疏漏，比如强化学习训练环境的数据过滤不彻底；
- 深化对齐技术，避免高能力模型出现未预期的危险行为；
- 突破可解释性技术，像做脑部核磁共振一样看清AI模型内部的隐藏动机；
- 建立常态化的安全审查机制，由独立常驻审查员确保研发透明度。
在行业协同层面，他倡导民主国家共同建立AI安全上限，甚至呼吁与中国达成禁止将AI用于生物武器研发的全球协议，通过国际协同避免“逐底竞争”，确保AI在给人类带来富足之前，不会先导致文明毁灭。他预测如果节奏可控，未来5到10年内AI就能实现治愈大多数疾病、带来普遍富足的目标，但如果放任当前的发展速度，人类可能在兑现红利之前就先面临灭绝风险。
截至目前，尚无任何一家头部AI公司宣布停止模型研发或降速，Anthropic与OpenAI的竞争依然激烈，双方都在持续推进更先进模型的开发。但三大行业掌舵人的罕见一致，已经让“AI是否需要降速”从学术讨论变成了整个行业必须正视的核心议题。