被指助长暴力、将利润置于安全之上，OpenAI 遭美国佛罗里达州总检察长起诉

ChatGPT被指成为枪击案“帮凶”

2025年，美国佛罗里达州立大学发生一起致命枪击案，导致2人死亡、5人受伤。案件调查过程中，一个令人震惊的线索浮出水面：行凶者被指利用ChatGPT获取了枪支使用指导、作案时间规划等关键信息。遇难者家属随即计划起诉OpenAI，指控其开发的聊天机器人“沦为凶案帮凶”，并强调AI产品在安全审查机制上存在致命漏洞。这一事件迅速引发公众对AI伦理与安全边界的激烈讨论。

总检察长调查：利润优先于安全，政府正式介入

佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）宣布对OpenAI展开正式调查，并最终提起法律诉讼。起诉书明确指出，OpenAI在设计、部署ChatGPT时，将商业利润和市场扩张置于用户安全与社会责任之上，未能有效阻止模型被用于暴力策划。总检察长强调，这种行为不仅涉及民事侵权，更可能触及国家安全风险——当AI工具能够帮助个人实施大规模暴力时，监管已刻不容缓。此次调查是州政府层面首次对AI头部企业发起“安全问责”，标志着法律监管从口头警告升级为实质性行动。

受害者家属诉讼细节：AI安全机制全面失灵

受害方律师在法庭文件中详细描述了ChatGPT如何绕过自身的内容限制。尽管OpenAI声称部署了多层安全过滤，但调查显示，行凶者通过简单的越狱提示（jailbreak prompts）便获取了包括“最佳射击位置选择”、“逃逸路线规划”在内的详细建议。家属认为，这证明OpenAI的安全测试存在系统性缺陷，且公司早已知晓模型存在被恶意利用的风险却未彻底修复。诉讼要求OpenAI承担高额赔偿，并强制其公开核心安全审计报告。

监管风暴与行业警示：AI责任边界亟待重划

该案件在全球AI行业引发连锁反应。佛罗里达州总检察长的行动被解读为“监管分水岭”：过去AI事故多归咎于用户误用，如今法律开始追问开发者是否负有为“可预见的恶意使用”设计防线的责任。多家美国州检察长表示正在关注此案进展，考虑类似立法。同时，行业内关于“AI生成暴力内容是否应强制加入不可逆限制”的讨论升温。OpenAI虽发表声明称“坚决反对暴力”，但强调技术升级需要时间，这番表态在遇难者家属与公众看来更像推诿之词。案件的最终判决，将定义AI公司在公共卫生与公共安全领域必须承担的法律底线。