担忧 AI 生成虚假内容扰乱司法，英国警方被叫停使用 AI 撰写法庭陈述

虚假案例惊现法庭：律师引用“不存在”的案件

在英格兰和威尔士高等法院审理的一起案件中，一名律师向法庭提交了一份文件，其中引用了五起看似真实但经查证完全不存在于任何法律数据库中的案件。律师本人否认使用了AI，仅称引用可能来自“Google或Safari”中出现的AI生成的摘要。审理此案的夏普法官指出，这已非孤立事件，越来越多的律师引用了“看似由人工智能生成的虚假信息”，表明AI工具在法律研究中的误用正变得普遍。

法官警告：ChatGPT等AI无法可靠进行法律研究

高等法院法官夏普明确表示，生成式AI工具如ChatGPT无法可靠地用于法律研究，其产出内容可能包含看似合理但完全错误的引用和法律逻辑。她强调，依赖这类工具撰写法庭陈述或法律文件，极有可能导致律师将并不存在的判例、法条甚至事实提交给法庭，从而误导法官、浪费司法资源。夏普法官特别批评了相关行为，要求律师引以为戒，不得放任AI模型生成或编造虚假信息扰乱司法秩序。

紧急叫停：法院强化律师AI使用规范

鉴于AI生成虚假内容的风险，英格兰和威尔士高等法院已发布指令，要求律师在工作中严格防止滥用人工智能。夏普法官表示，现有的律师指导方针需要被更强有力地执行，“需要采取更多措施以确保律师遵循相关指导，并履行对法庭的职责”。法院在判决书中直接点名批评涉事律师，并要求各级法律从业者立即停止依赖未经核实的人工智能工具进行法律文书撰写。

技术隐忧：AI正悄然扭曲法庭运作方式

据权威科技媒体报道，能够创造文本、图像、音频、视频等内容的生成式AI技术正在悄然改变法庭运作方式。一方面，部分法官借助AI厘清复杂案情，律师用它高效撰写法律文件；但另一方面，AI轻易生成的虚假信息一旦被植入官方诉讼材料，将直接威胁司法公正。法院系统目前面临的最大挑战不是AI本身，而是如何防范其被误用，避免“对簿公堂”变成“对AI的虚假陈述”。

前车之鉴：美国已有律师因AI造假被罚款

此类问题并非英国独有。此前，美国已有律师在法庭文件中援引由ChatGPT编造的虚假案例，被法官严厉处罚并罚款。英国高等法院此次的叫停行动，正是吸取了跨境教训。夏普法官强调，无论技术如何发展，律师对法庭的忠实义务不可打折，所有提交的文件必须经过人工严格审核和事实核查，绝不能将AI生成的“花招”当作“捷径”。