Claude Fable 5「发疯」,高数算网络攻击,问癌症直接封号?

高等数学惨遭“误杀”,Selmer群变身网络风险

多名数学家与机器学习研究者反馈,他们在向Claude Fable 5提问高等数学概念时,模型非但无法作答,反而直接弹出“网络安全风险”警告。Selmer群、同构等基础代数数论术语被系统判定为恶意攻击向量,导致合法科研请求被彻底阻断。有用户在社交媒体截图显示,输入“证明Selmer群的有限性”后,界面瞬间变红并提示“该内容可能违反安全政策”。这一荒诞现象在学术圈引发大规模吐槽,堪称AI界的“文字狱”。

Claude Fable 5「发疯」,高数算网络攻击,问癌症直接封号?

癌症问题直接封号,生物医学研究举步维艰

更令人震惊的是,多名生物医学科学家报告,在询问关于癌症治疗、肿瘤免疫反应等常规医学问题时,账号被直接封禁。提示信息明确表示“检测到危险内容”,要求用户联系支持团队申诉。一名肿瘤学研究员愤怒地表示:“我只是想查一下PD-1抑制剂的最新机制,Claude却把我当成了恐怖分子!” 安全过滤器显然将“癌症”一词与生物武器或敏感病原体划上了等号,导致基础医学科研无法进行。开源贡献者与生物信息学家同样中招,大量与疾病相关的Python脚本被拦截。

双模型机制埋下隐患,Fable 5护栏过度敏感

Anthropic此番推出了Claude Fable 5与Mythos 5双模型,其中Fable 5主打编程与通用任务,Mythos 5则内置更严格的安全护栏用于敏感请求路由。然而在实际测试中,Fable 5自身的分类器展现出极端保守倾向,大量常规请求被错误地标记为高风险并发送给Mythos 5处理,甚至直接拒绝服务。YouTube实测视频显示,Fable 5虽能完美生成SVG动画、流体模拟和完整iOS应用,但其背后隐藏的安全逻辑如同惊弓之鸟——任何涉及数学公式、医学术语或开源代码漏洞分析的对话,都可能触发封禁。

性能碾压GPT 5.5,但“玻璃天花板”挡住所有科学家

尽管Fable 5在官方基准测试中全面领先GPT 5.5,并且在编程、物理模拟及自动化测试中展现“变态级”能力(如生成复杂弓械动画、3D水槽浮力模拟),但其安全过滤器已成为科研工作者的最大障碍。用户需额外花费大量精力绕过检测才能进行正常讨论,比如将“癌症”改为“细胞异常增殖”、“Selmer群”改为“某种代数结构”。不少研究者直言,这种“能力史上最强,护栏史上最蠢”的模型,本质上是对科研社区的严重敌视。Anthropic尚未对大规模误报事件做出正式回应。