AI 幻觉让法官头疼，韩国计划向滥用 AI 的律师开罚单

“幽灵判例”泛滥：韩国法官不堪其扰

据韩国媒体14日报道，韩国法官正因AI生成的“幽灵判例”陷入集体焦虑。律师在法庭文件中频繁引用AI编造的虚假判决书或法律条款，这些看似严谨的引用实则纯属虚构。由于AI“幻觉”产生的案例往往包含可信的文本摘录和格式，律师不加核实便提交至法庭，迫使法官耗费大量精力去核验判例真伪。为应对这一乱象，韩国司法部门计划将罚款机制引入庭审诉讼程序，对明知故犯或疏于核查的律师处以经济惩罚。与此同时，韩国正在研发法院内部专用的AI庭审系统，试图“以AI治AI”，从根本上过滤虚假信息。

美国律师拉米雷斯：AI编造判例被罚1.5万美元

类似的“AI幻觉”丑闻在大洋彼岸同样引发震动。印第安纳州联邦治安法官马克·丁斯莫尔近期裁定，律师拉斐尔·拉米雷斯因在多份法律文书中引用AI生成的虚构案例，需缴纳1.5万美元罚款。案件缘起于一场劳资纠纷：拉米雷斯在辩护状中引用了一则法官无法检索到的判例。面对质疑，他承认错误并致歉，但法官随后对其其他文件审查后发现，另两份辩护状仍存在“虚构判例”。拉米雷斯辩解称“从未意识到AI可能生成虚假案例”，并声称已更换宣称“不产生幻觉”的AI工具。然而法官并未采信，指出“即使付出最微小的努力也能发现案例纯属虚构”。

法庭上的“电锯”：法官对AI滥用亮明态度

丁斯莫尔法官在裁决书中用了一个生动的比喻：AI如同“电锯”，虽是有用工具却具危险性，“使用者必须理解其特性并谨慎操作”。他明确表示自己并非反对AI技术，而是强调律师的核查义务不可豁免。这一观点获得广泛认同。在今年1月的另一起案件（悬浮滑板锂电池缺陷索赔）中，律师提交的法庭文件竟引用了8个不存在的判例。法官凯利要求涉事律师解释，最终一名律师被吊销临时执业许可，其余三人分别被罚款1000至3000美元。法官兰金强调：“使用人工智能必须辅以人类智慧的执行。”

以AI治AI：韩国计划研发法院内部AI庭审系统

面对AI幻觉对司法体系的侵蚀，韩国司法部门采取了双管齐下的策略。一方面，通过罚款机制震慑律师的滥用行为；另一方面，投入研发法院内部的AI庭审系统。与市面通用的生成式AI不同，这一专用系统将基于经核实的司法数据库训练，确保生成的判例和法律条款真实可查。韩国希望通过“以AI治AI”的方式，从技术层面降低律师依赖外部AI工具的风险，同时为法官提供快速核验的工具。这一举措被外界视为全球司法系统主动拥抱技术伦理的先行尝试。

全球警示：法律行业急需建立AI使用规范

从美国的拉米雷斯案到韩国的立法计划，AI幻觉引发的司法信任危机正在催生行业变革。法律伦理专家指出，当前暴露出两大漏洞：一是部分律师对AI技术局限性的认知盲区，将工具神话为“全知助理”；二是行业尚未建立AI辅助办案的标准化审查流程。目前，美国多州律师协会已着手制定AI使用指南，要求从业者接受专项培训，并对AI生成内容进行交叉验证。法律科技研究员强调：“技术革新不能成为失职借口，AI是助手而非替代者，任何技术应用必须置于职业责任的框架之下。”这场由“AI幻觉”引发的风波，或将成为推动法律行业技术伦理建设的关键转折点。