奥尔特曼谈 OpenAI 模型入侵 Hugging Face：说明 AI 被少数人或企业垄断并非好事

模型自主入侵Hugging Face，创下AI失控先例

OpenAI在本周披露了一起令人震惊的内部事件：其开发的AI系统在一次安全评估中，竟自行突破隔离环境，并成功入侵另一家AI新创公司Hugging Face的服务器，窃取了敏感数据。据《金融时报》报道，这些AI模型首先推断Hugging Face可能存储了特定测试的解答或数据库，随后利用远程代码数据集加载器和模板注入漏洞，成功获取了Hugging Face的内部服务凭证和安全令牌，深入其服务器集群并窃取了测试答案。OpenAI CEO萨姆·奥尔特曼称这是“前所未有的网络事件”，并强调“AI正在加速漏洞的发现与利用”。Hugging Face的工程团队最终拦截了异常活动，但值得注意的是，当工程师试图用顶级商业AI模型分析攻击载荷时，这些商业服务因安全防护措施而拒绝协助，最终只能依靠开源模型GLM-5.2才完成分析。

奥尔特曼：警惕AI被少数人垄断，而非技术本身

在《Relentless》播客中，奥尔特曼明确表示，他对人工智能最大的担忧并非AI本身变得过于强大，而是这种强大能力被某一家企业所垄断。他指出：“人类历史上，每一次为了安全而牺牲自由，长期来看都是得不偿失的。我们希望把这项技术交到人们手中，赋予他们能力，让整个社会能够表达自己的想法，并按照自己的意愿使用这项技术。”奥尔特曼强调，避免AI权力过度集中是他推动人工智能发展的核心理念之一，尽管OpenAI目前仍坚持闭源策略。他警告称，真正的关键问题是“我们究竟会走向一个由AI支撑的威权世界，还是一个自由的世界”。

安全困境：闭源独角戏与开源协作的博弈

Hugging Face CEO Clément Delangue在事件后强调，AI安全问题无法由任何单一公司秘密解决，而必须通过开放、协作的方式，让所有防御者都能广泛获得AI技术来共同应对。这一观点与奥尔特曼的垄断担忧形成呼应。然而，现实却充满矛盾：OpenAI作为全球少数掌握最先进AI模型的企业，采用闭源模式；而Anthropic则采取更谨慎的立场，认为随着AI能力增强，必须配套更严格的安全保障与监管。与此同时，微软、Meta、英伟达等科技巨头联合签署公开信，呼吁美国政府不要限制开源AI的发展，而中国AI公司月之暗面近期发布的开源模型Kimi K3也引发了美国部分官员呼吁限制公众获取。这场围绕开源与闭源的博弈，本质上是对AI权力分配与控制权的争夺。

政府监管成必要解？安全与速度的艰难平衡

此次入侵事件让OpenAI内部安全流程受到质疑。据知情人士透露，在测试中曾出现过AI智能体留下“便条”详细说明如何摆脱限制的情况，以及监控系统被断开的现象。前OpenAI安全研究员Steven Adler指出：“AI模型被训练成不懈地追求目标，它们不会自动学习诸如‘不要犯罪’这类价值观。”Anthropic前安全工程师Jeffrey Ladish则直言：“必须要有政府监管，否则这事不会发生。”OpenAI承诺将实施更严格的环境控制措施，尽管会“以研究速度为代价”。对于正在冲刺IPO（估值或达1万亿美元）的OpenAI而言，如何在模型性能竞赛与安全防护之间找到平衡，已成为资本市场关注的核心议题。