当法槌敲响，你是否想过，未来的审判可能不再是法官的独角戏，而是人工智能参与的合奏？美国法院正面临着一场前所未有的技术冲击。一篇来自 Ars Technica 的深度报道揭示了一个令人不安的现实：AI 错误可能正在被美国的法院系统所忽视，而法官们正面临着提升自身 AI 素养的巨大压力。
AI 判决的隐忧
故事从佐治亚州的一起离婚纠纷案开始。法官杰夫·沃特金斯发现，一份由丈夫律师戴安娜·林奇起草的判决书中，引用了“两起虚构的案件”，并驳回了妻子的诉求。沃特金斯推测，这些虚构的案例很可能是由生成式人工智能“捏造”的。更令人震惊的是，丈夫随后提交的辩护状中，又出现了 11 起“捏造”或不相关的案例。
这并非个案。专家警告说，法官忽略 AI 幻觉（即 AI 生成的虚假信息）的情况可能会变得越来越普遍，尤其是在那些不堪重负的下级法院。目前，只有密歇根州和西弗吉尼亚州采取行动，强制法官提升技术能力，以识别 AI 风险。
AI 滥用的多重危害
AI 滥用不仅仅是浪费时间和金钱。沃特金斯法官指出，它还会剥夺人们提出最佳辩论的机会，损害法官和法院的声誉，并助长对司法系统的“ cynicism”。如果听之任之，可能会导致“诉讼当事人不真诚地声称怀疑其真实性，从而藐视司法裁决”。
退休法官、福克纳大学法学教授约翰·勃朗宁认为，我们“很有可能看到更多”类似的案件。他设想，在任何法官案牍劳形的情况下，都可能出现法官无意中采纳律师在拟议命令中包含的虚假案例引用的情况。
法官的 AI 素养面临挑战
虽然律师因引用 AI 生成的虚假案例而受到制裁、解雇甚至暂停执业的案例屡见不鲜，但法官在这方面的风险似乎仅限于尴尬。然而，并非所有法官都准备好在没有适当审查的情况下接受 AI。一些法官已经禁止使用 AI，而另一些法官则要求披露 AI 的使用情况，甚至要求说明使用的具体 AI 工具。
勃朗宁指出，即使所有法院都要求披露，这也不是一个完美的解决方案，因为“律师可能很难辨别他们是否使用了生成式 AI”，因为 AI 功能正日益嵌入到流行的法律工具中。他甚至认为，有一天，期望律师“验证每一个生成式 AI 输出”可能变得不合理。
各州的应对之策
面对 AI 的挑战，各州正积极探索应对之策。密歇根州和西弗吉尼亚州已发布司法道德意见，要求法官在 AI 方面具备“技术能力”。其他州的最高法院也已通过关于 AI 的官方政策。此外，一些州还成立了工作组，以监测其区域法院系统并发布 AI 指导意见，而弗吉尼亚州和蒙大纳州等州已通过法律，要求对刑事司法决策中使用的任何 AI 系统进行人为监督。
佐治亚州司法委员会人工智能和法院专责委员会发布了一份报告，提出了“旨在帮助维护公众对司法系统的信任和信心的建议，因为 AI 的使用在该州有所增加”。这些建议可能包括建立“长期领导和治理”；批准的 AI 工具库；司法专业人员的教育和培训；以及提高佐治亚州法院 AI 使用的透明度。然而，该委员会预计，实施这些建议需要三年时间，而 AI 的使用仍在继续增长。
如何识别 AI 风险？
在法院找到应对 AI 的方法之前，勃朗宁主张加强对法官的教育和道德指导，以引导他们使用 AI 并端正对 AI 的态度。这有助于避免对 AI 陷阱的无知和对 AI 输出的过度自信，从而保护法院免受 AI 幻觉、偏见和证据挑战的影响。
专家们指出了一些明显的危险信号，可以帮助法官发现 AI 编造的文件。例如，任何包含“123456”的案件编号都可能需要审查。勃朗宁还指出，AI 倾向于混淆案件的地点。此外，如果从幻觉案例中引用的语言具有有时会暴露 AI 使用的生硬语言，那么它可能是一种幻觉。
AI 辅助判决的未来
勃朗宁在他的文章《AI 法官的黎明》中指出，第 11 巡回上诉法院法官凯文·纽森已经使用 AI 作为“小型实验”，为涉及保险范围问题的民事案件和侧重于量刑指南的刑事案件准备意见。他似乎呼吁法官研究 AI，以便他们可以使用 AI 来增强决策能力，并可能扩大公众对法院的信任，而不是破坏它。
勃朗宁写道：“无论可以支持法官决策的技术进步如何，最终责任将始终由血肉之躯的法官及其对非常人性化的品质——法律推理、同理心、对公平的强烈尊重和对道德的坚定承诺——的应用来承担。这些品质永远无法被 AI 工具复制。”
结构性解决方案的探索
麻省理工学院负责任地使用生成式 AI 促进法律工作组的联合主席 Dazza Greenwood 建议，可能需要一种结构性应对措施，以确保每次都能发现所有虚假的 AI 引用。他建议法院创建一个“奖励系统，让对方或法院的其他官员因举报司法文件中引用的虚构案件而获得制裁金”。这样，律师就会知道他们的工作“总是”会被检查，从而可能会改变他们自动提交 AI 起草的文件的行为。反过来，这可以减轻法官作为监督者的压力。而且这也不会花费太多——主要只是重新分配律师因 AI 发现者而受到的制裁费用的确切金额。
当然，不能保证奖励系统会奏效。但“如果确定地知道你的治疗方法将受到单独检查并且会报告捏造的引用的事实是否足以最终......说服那些偷工减料的律师不应该偷工减料？”
结论
人工智能正在以惊人的速度渗透到法律领域，它既带来了机遇，也带来了挑战。美国法院系统正处于一个关键的十字路口，需要认真权衡如何利用 AI 的优势，同时防范其潜在的风险。通过加强法官的 AI 素养、探索创新的监管机制以及建立开放的案例法资源库，我们或许能够确保 AI 在司法领域发挥积极作用，而不是成为公正的威胁。
未来的法庭，期待在 AI 的辅助下，能够更加高效、公正地守护法律的尊严。
