A社承认Claude安全对齐存在缺陷，但“尚无解决方案”

近日AI行业被一则来自A社（Anthropic）的公开表态搅动——这家打造了Claude系列的明星AI公司首次正面承认，其核心主打的安全对齐机制存在固有缺陷，且当前团队尚未找到成熟的修复方案。

孙宇晨“五千万转账”争议意外暴露对齐机制漏洞

早前孙宇晨发布的虚构与景甜交往的博文里，就曾出现Claude直接拦截其向景甜转账5000万美元请求的情节，当时网友还调侃“语言模型管得太宽”，如今A社的公开承认，才让外界意识到这并非个例式的“过度保守”，而是安全对齐机制本身存在的系统性缺陷。作为Anthropic引以为傲的核心技术特性，Claude的安全对齐原本是为了规避模型给出有害、不当的建议，但在涉及个人情感判断、财产处置的复杂场景下，容易出现误判，既无法准确识别用户需求边界，也容易给出不符合用户预期的回应。

A社官方回应：缺陷已确认但修复暂无时间表

A社在最新发布的安全通报中明确表示，经过多轮内部排查，已经确认Claude当前的安全对齐框架存在多处逻辑漏洞，尤其在处理涉及主观价值判断、多利益方博弈的复杂prompt时，会出现响应失准的问题。但公司同时强调，目前全球AI行业都没有成熟的方案能够在不影响模型核心能力的前提下修复这类问题，因此暂时没有明确的修复时间表。值得注意的是，就在声明发布前不久，A社才被曝出开出320万美元的年薪高薪挖角Meta AI销售团队人才，试图加快Claude的商业化落地进程，但安全缺陷的存在显然成了其商业化推进的最大阻碍。

核心高管离职背后：内部对安全路线产生分歧

就在A社发布缺陷声明的前几天，其IPO前夕拒绝天价股权的核心高管突然宣布离职的消息就曾引发行业热议，有知情人士透露，该高管的离职核心原因正是与A社管理层在安全对齐问题的处理路线上产生严重分歧：一方主张暂停商业化推进，集中全部资源修复安全问题，另一方则认为不能因噎废食，要继续推进商业化扩张抢占市场。虽然A社官方未对离职原因作出正面回应，但结合此次公开承认缺陷暂无解决方案的表态，内部路线分歧的传闻也显得愈发可信。

行业反思：AI安全对齐的“度”该如何把握

A社的表态也引发了整个AI行业对安全对齐边界的深度讨论。不少业内人士指出，当前主流大模型的安全对齐大多采用“规则+人工标注”的模式，对于明确的违法违规内容能够有效拦截，但对于复杂的现实场景、主观价值判断类的需求，很容易出现“过度对齐”或者“对齐失效”的问题：

• 预设规则难以覆盖所有复杂现实场景，容易出现误判
• 过度对齐会大幅限制模型的实用价值，反而降低用户使用意愿
• 对齐不足则存在输出有害内容的风险，可能引发合规问题
  也有AI安全领域的专家呼吁，行业需要尽快建立更统一的安全对齐评估标准，同时探索更灵活的动态对齐机制，既保证模型的安全可控，也不至于过度限制模型的能力边界，平衡安全与实用性的矛盾。