美国一律师用 ChatGPT 生成诉讼文书却出现伪造警察证词，被罚款 5000 美元
阿拉巴马律师用ChatGPT生成涉伪造证词的诉讼文书被罚5000美元
美国阿拉巴马州联邦法院近期对一起律师违规使用AI工具的案件作出处罚，涉事律师在生成诉讼文书时直接采用ChatGPT输出内容，最终文件中出现了伪造的警察证词，被法院处以5000美元罚款。主审法官Anna Manasco将该行为定性为“极端鲁莽”，除罚款外还撤销了涉事律师在本案中的临时出庭许可（pro hac vice），要求其在2026年2月底前向所在州律师纪律主管部门提交本案裁决书副本，报告违规行为，同时需提交律所内部整改方案，详细说明将采取哪些措施避免同类问题再次发生。涉事律师Seth事后回应媒体称这是一次“令人尴尬的教训”，明确各律所若不建立严格的AI使用政策，就不该在任何情况下将AI作为诉讼文书生成工具，以免酿成错误。此外，两名作为文件签字合伙人的律所负责人因未尽到审核把关责任，各被处以3000美元罚款。
纽约律师引用ChatGPT捏造判例被罚5000美元
2023年美国纽约南区法院审理一起航空事故纠纷案时，发现代表原告的律师Steven Schwartz、Peter LoDuca及其律所Levidow、Levidow&Oberman提交的诉讼文件中，引用了ChatGPT生成的6个完全虚构的法律判例，试图支撑已超过诉讼时效的索赔主张。主审法官P. Kevin Castel在裁决中指出，律师使用人工智能工具本身没有“本质上不当”，但律师职业道德规则要求律师必须确保提交法院文件的准确性。法官批评两名律师“放弃了自己的责任”，在明知引用内容存疑的情况下仍继续坚持虚假意见，构成对《联邦民事诉讼规则》第11条义务的违反。最终两名律师及其律所各被罚款5000美元，还需向法院提供虚假判例中涉及的法官的相关信息。法官明确表示，不了解AI工具的特性并不能豁免律师的责任，在他人起草的文件上签字却不履行审阅义务，依然属于违规行为。
多地司法部门对AI违规使用开出高额罚单
律师过度信任AI生成内容引发的违规事件并非个例，美国多州及海外司法部门都已作出相关处罚：
- 加州第二地区上诉法院此前对一名律师处以1万美元罚款，该律师提交的法律意见书中包含由ChatGPT生成的虚假案例引述，23条判例引文中有21条系伪造，法院认定其行为构成轻率诉讼，浪费司法资源，该罚款金额创下加州法院AI造假相关罚款的最高纪录；
- 爱荷华州律师纪律委员会要求撤销前律师候选人David Turner提交的多份包含AI虚构法律引文的文件；
- 英国高等法院同样发出严厉警告，使用AI引用虚假案例的律师可能面临藐视法庭甚至刑事指控。
主审阿拉巴马州案件的法官在裁决书中措辞严厉，强调这类事件的“数量之多令人震惊”，从纽约到怀俄明等地法院都曾遇到类似问题，不得不通过罚款、训诫等方式进行制裁。
司法系统明确律师使用AI的审核责任边界
针对AI工具在司法领域的应用乱象，各地司法部门正在加速明确使用规则：加州司法委员会此前已发布指导方针，要求法官与法院工作人员在2024年12月15日前，要么禁止使用生成式人工智能，要么制定正式的使用政策；加州律师协会也在考虑加强相关行为准则，应对AI应用带来的合规挑战。多位法官在公开判决中明确表态，AI技术不能成为律师逃避尽职调查的借口，无论AI工具多么智能，律师都必须亲自核实提交给法院的所有内容的真实性，确保一字一句准确可靠。法律行业专家也建议，律所和企业法务部门应建立严格的内容审查机制，对AI生成内容保持必要的人工监督，在提升工作效率的同时避免付出惨重的合规代价。