Anthropic 迟迟不签公开信成“众矢之的”，CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型

公开信风波：Anthropic 为何成为“众矢之的”

今年早些时候，由生命未来研究所（FLI）发起的一封公开信呼吁全球 AI 实验室暂停训练比 GPT-4 更强大的模型至少 6 个月，以便为安全措施留出时间。这封信获得了包括埃隆·马斯克、史蒂夫·沃兹尼亚克在内的数千名科技界人士签名。然而，以安全为核心使命的 Anthropic 却迟迟未签署，这立即引发了舆论的强烈质疑。许多人认为，作为一家将“AI 安全”写在旗帜上的公司，Anthropic 的沉默是“言行不一”的表现，甚至被指责为“为了商业利益而回避监管”。

CEO Dario Amodei 亲自澄清：开源禁令从未在公司议程上

面对外界的批评，Anthropic 联合创始人兼 CEO Dario Amodei 在多个场合做出解释。他明确表示，公司从未主张全面禁止开源 AI 模型。“我们花大量资金开发出的东西，确实没有义务免费提供给所有人。”Amodei 强调，Anthropic 的闭源策略并非出于对开源社区的敌意，而是基于对当前大模型潜在风险的审慎评估。他认为，完全开放权重可能让恶意行为者轻易获得并滥用强大能力，而闭源至少能保留一层可控的护栏。但这一立场与“禁止开源”完全是两码事——Anthropic 从未在公开信或其他场合倡议过法律层面的开源禁令。

商业与安全的双重逻辑：闭源才是核心产品

Anthropic 之所以不签署公开信，深层原因在于其商业模型与开源理念存在根本冲突。作为一家估值数十亿美元的初创公司，Anthropic 的核心产品是闭源的 Claude 系列模型。如果签署了要求暂停训练强大模型的公开信，等于自断其臂——因为 Claude 3 系列本身就是当时最先进的模型之一。更重要的是，Anthropic 正在构建一个从模型供应商延伸到代理生态的接口体系。若接口成为行业通用标准，闭源模型将为其带来长期商业护城河。而开源则意味着将这些竞争优势拱手让人。因此，从商业利益出发，Anthropic 不可能支持任何形式的“暂停训练”或“开源强制令”。

开源 vs 闭源：Anthropic 的中间路线与安全叙事

尽管不签公开信，Anthropic 依然在安全研究上投入巨大。Dario Amodei 指出，公司正在推行“负责任的可扩展性”（Responsible Scaling）政策，即根据模型能力等级逐步放开部署范围。这本质上是一种介于完全开源和完全封闭之间的中间路线。Anthropic 认为，完全开源可能让模型被用于恶意用途（如生成生物武器指令），而完全闭源又阻碍了学术界的透明研究。因此，他们选择只向经过审查的第三方研究员开放模型权重，而非直接公开下载。这种策略既回应了安全担忧，也保住了商业壁垒。

行业反思：安全承诺不应被商业利益绑架

Anthropic 的争议折射出 AI 安全倡导者与商业公司之间的深层矛盾。一方面，开源社区认为透明度是安全的基础；另一方面，商业公司则强调“可控性”比“透明度”更重要。Dario Amodei 的辩解虽然逻辑自洽，但无法完全消除外界对其“以安全为名行商业之实”的质疑。随着 Claude 3 系列在 benchmarks 上超越 GPT-4，Anthropic 闭源策略的“安全叙事”正面临越来越大的压力——如果它既不开源，又不签署任何暂停训练的公开信，那么它所谓的“安全优先”如何取信于人？这或许才是这场风波背后最值得关注的问题。