消息称英国监管机构紧急评估 Anthropic 新 AI 模型 Claude Mythos 的风险

英国金融监管机构正在联合政府网络安全部门和主要银行，对人工智能初创公司 Anthropic 最新推出的 AI 模型 Claude Mythos 进行紧急风险评估，以防范其可能引发的网络安全威胁。

背景

• Anthropic 于近期发布了其新一代 AI 模型 Claude Mythos，该模型在网络安全领域表现出极强的能力。
• 据该公司称，Claude Mythos 能够发现操作系统、浏览器及其他常用软件中的数千个关键漏洞。
• 由于其潜在的“攻击性”网络能力，Anthropic 选择将其限制在特定组织中用于防御性目的，并未公开发布。
• 这引发了包括英国在内的多个国家监管机构的关注，并促使其展开紧急评估。

评估详情

• 据英国《金融时报》报道，英国金融监管机构已与政府网络安全机构及主要银行召开紧急会议。
• 会议内容包括向银行、保险公司和交易所的代表介绍 Mythos 可能带来的网络安全隐患。
• 会议计划在未来两周内进行，显示出监管机构对该问题的高度重视。
• 与此同时，英国央行也将 Mythos 纳入其“跨市场运营韧性小组（CMORG）”的议题范围，展开跨部门讨论。

Anthropic 的部署与回应

• Anthropic 将 Mythos 部署为“Project Glasswing”计划的一部分，允许特定组织在受控环境下使用该模型。
• 公司强调，Claude Mythos 暂不适合公开发布，因其可能被恶意行为者（如网络犯罪分子或间谍）滥用。
• Anthropic 曾与美国政府官员讨论过 Mythos 的进攻性和防御性网络能力，表明其对安全问题的前瞻性意识。
• 洛根·格雷厄姆（Logan Graham），Anthropic AI 模型防御团队负责人，表示目前尚未建立足够的安全防护机制，该模型的广泛应用可能在未来几年内颠覆网络安全规则。

监管与行业联动

• 在英国之外，美国监管机构也迅速作出反应。美联储和美国财政部紧急召集华尔街主要银行的高管开会，确保他们意识到 Mythos 可能带来的威胁。
• 参会高管来自花旗集团、摩根士丹利、美国银行、富国银行和高盛集团等系统重要性金融机构。
• Anthropic 已允许包括亚马逊、苹果、谷歌、微软、思科和摩根大通在内的企业使用 Mythos 进行网络防御测试，如查找漏洞和模拟攻击。
• 尽管未经过专门安全训练，Mythos 在工程难题测试 SWE-bench Pro 中表现优异，解决复杂 Bug 的成功率较前代模型 Claude Opus 4.6 提升近五成。

可能的影响与未来展望

• 如果 Mythos 的网络攻击能力确实如传闻所言，未来几年网络安全防御体系将面临前所未有的挑战。
• Logan Graham 警告，未来 6 至 24 个月内，AI 发动网络攻击的能力将变得“无处不在”，迫使安全行业重新制定防御策略。
• Anthropic 正在推进上市计划，年化收入（ARR）已突破 300 亿美元，显示出其在 AI 领域的商业潜力。
• 随着 AI 模型能力的增强，全球监管机构可能需加速建立统一的安全评估与发布标准，以应对日益复杂的 AI 带来的风险。