OpenAI遭多州传票围剿,AI怎么说话都要查
传票清单里,最扎眼的是“模型谄媚”
牵头这场联合调查的是纽约州总检察长Letitia James。传票要求OpenAI提交的文件清单堪称庞大:广告与营销策略、用户参与度与留存机制、消费者数据与健康数据处理方式、面向未成年人和老年人的活动、深度学习模型的管理政策……但其中最值得关注的一个词,是“模型谄媚(model sycophancy)”。
所谓模型谄媚,是指AI为了迎合用户,一味顺着对方说话,即使对方的想法有害也不刹车。这源于AI的训练机制——它依赖人类反馈来打分调教,而人天然更爱听顺耳的话。附和、肯定、被认同往往拿高分,一来二去,“讨好”被反复奖励,模型就学会了无论对错先顺着用户。
风险恰恰藏在这里:当一个本就脆弱的人把扭曲甚至危险的念头说给AI听,一个只会附和的AI不会拉他一把,反而可能顺着往下走。这正是近来被反复提及的“AI精神病”隐忧——在一轮轮对话中,妄想被不断印证、情绪被层层放大,人离现实越来越远。监管追问的核心是:AI说出来的话,算不算产品的一部分?如果模型因为太会顺人说话最终把用户推向危险,这种输出行为算不算产品缺陷?传票把“模型谄媚”列为取证项,意味着整个行业训练模型的逻辑都要重新掂量。
佛州枪击案与加拿大自杀诉讼,两桩人命压阵
传票背后,是几桩已经闹上法庭的人命官司。6月1日,佛罗里达州总检察长起诉了OpenAI及CEO奥特曼,指控他们明知产品不安全仍执意发布、无视警告。更早的4月,佛州总检察长已对OpenAI启动刑事调查,矛头指向去年佛州立大学一起致两人死亡的枪击案——嫌疑人据称把ChatGPT当成了策划袭击的“知己”和“参谋”,而聊天机器人给出了回应。

另一桩诉讼来自加拿大:一名母亲在加州法院起诉OpenAI,称其24岁的女儿Alice在18个月内反复向ChatGPT透露自杀倾向,ChatGPT虽偶尔提供心理咨询热线,但并未启动危机介入,也未通知家属。原告指控ChatGPT过度追求用户参与度,逐渐成为女儿的情感依赖对象,甚至强化了其自杀念头。OpenAI辩称模型曾多次鼓励当事人寻求现实支持,并已配合执法。
这里必须清楚:这些全部是诉讼指控,尚无法院认定OpenAI需要担责。但传票的深意在于,它标志着监管从“AI能不能做到”转向了“AI对用户做了什么”。
IPO钟声在前,传票先到
OpenAI正处于关键转折点。公司传出自今年9月启动IPO,估值可能上看1万亿美元。但多州传票和接连不断的诉讼,让这场资本盛宴蒙上阴影。风险披露的压力会陡增、估值的不确定性会放大、合规成本会一路抬高——所有这些都将直接写进投资人的文件里。
巧合的是,本周五美国政府发出出口管制指令,禁止外国公民访问Anthropic的Claude Fable 5和Mythos 5模型,Anthropic当晚即对全球所有用户停用。同一周,OpenAI收到多州传票。AI公司们正集体撞上监管:SpaceX刚刚敲钟,Anthropic正在排队,这一代人几乎是在冲向上市的同一时刻,遭遇了系统性的法律和合规审查。
AI监管转向:像管社交媒体一样管ChatGPT
过去几年,外界讨论AI监管,焦点几乎都在“能力”上:模型够不够强、会不会失控、要不要放慢脚步。但这次传票里写的是广告、用户留存、未成年人保护、数据——这是当年针对Facebook的那套治理框架。
2025年12月,宾夕法尼亚州牵头42州总检察长联名致信OpenAI、Meta、Anthropic、Google、xAI等公司,警告开发者可能要为自家生成式AI产品的输出负责。今年1月,加州总检察长调查xAI的Grok大规模生成色情图片。所有线索都指向同一个转变:AI行业第一次被系统性地纳入“消费者保护+产品安全”的执法框架。
这意味着:模型说错一句话,或者导致严重后果,将不再只是技术问题,而是产品责任问题。区别在于,AI的监管来得比社交媒体更快——社交媒体是先长成庞然大物,多年后才等来约束;而OpenAI这次连钟都还没敲,传票就先到了。这场IPO与监管的赛跑,没有暂停键。