在人工智能（AI）技术飞速发展的浪潮中，生成式大语言模型（LLM）已经深度渗透进各行各业，包括一向以严谨和准确著称的法律领域。然而，AI 的“幻觉”问题再次引发了司法界的严厉审视。近日，新墨西哥州最高法院对一名律师处以 5000 美元罚款，并对其处以藐视法庭罪，起因竟是他在处理一起谋杀案上诉时，错误地引用了 ChatGPT 生成的虚假证人和警方报告。
这起事件发生在周三，法院在一份文件中明确指出，律师 Stephen Aarons 在提交给上诉法院的文件中，编造了根本不存在的证人名字和伪造的警方证词。这些内容实际上是由 ChatGPT 生成并被他错误地当作真实证据使用的。虽然 Aarons 后来辩称他不知道这些内容是假的，但他未能履行核实事实的义务。法院最终认定，作为一名执业律师，他应当具备基本的查证能力，不能盲目相信 AI 的输出结果。
这起案件不仅是美国司法系统针对 AI 误用开出的第一张罚单，更是对整个法律行业的一次严厉警示。随着生成式 AI 工具（如 ChatGPT、GitHub Copilot 等）在法律检索、文档摘要和案例预测等环节的广泛应用，律师们享受着前所未有的效率提升。然而，这种便利背后隐藏着巨大的风险。大语言模型的本质是基于概率的预测，它并不理解事实的真假，有时为了满足用户的请求，它会“一本正经地胡说八道”。
在以往的案例中，律师试图利用 AI 撰写法律备忘录并成功引用了不存在的判例，最终导致客户面临败诉风险。而此次新墨西哥州律师的案件则更进一步，涉及到了刑事案件中最核心的证据链。虚假的证人和警方报告如果被法庭采信，将直接导致司法公正受到质疑，甚至可能让无辜者蒙受不白之冤。
法律行业的特殊性在于其对准确性和真实性的极致追求。每一个法律文书、每一次法庭陈述都代表着当事人的权益和法律的尊严。因此，当 AI 成为辅助工具时，人类律师的角色并未被削弱，反而变得更加重要。律师必须成为 AI 产出的“把关人”，在将 AI 生成的内容用于正式法律程序之前，必须进行严格的交叉验证。这要求律师不仅要精通法律条文，还需要具备一定的数字素养，以识别机器生成的虚假信息。
此次新墨西哥州最高法院的判决，无疑为全美的法律从业者敲响了警钟。它标志着 AI 在法律领域的应用正在进入“监管期”。未来，律师协会和法院可能会出台更具体的指导方针，规范 AI 在法律实务中的使用。对于科技公司而言，这也是一个契机，促使他们开发出更适合专业场景的、带有事实核查功能的 AI 工具。
对于公众而言，这起事件也引发了关于“真相”的思考。在信息爆炸的时代，如何辨别真伪成为了每个人的必修课。法律作为社会秩序的底线，其严肃性不容侵犯。任何试图通过技术手段作弊或疏忽的行为，都必将受到法律的制裁。这起 5000 美元罚款的案件，或许只是冰山一角，但它无疑为 AI 时代的法律伦理划下了一道重要的红线。
综上所述，新墨西哥州律师因 AI 幻觉被罚的事件，不仅是个案，更是行业变革的缩影。它提醒我们，技术在带来效率的同时，也带来了新的挑战。在法律领域，信任是基石，而核实事实则是维护信任的唯一途径。AI 可以辅助思考，但绝不能替代思考；它可以提供灵感，但绝不能成为懒惰的借口。
信息来源：The Verge，原文链接：https://www.theverge.com/ai-artificial-intelligence/994207/chatgpt-new-mexico-lawyer-fined-murder-appeal
封面图片来源：Unsplash / 摄影师 Wesley Tingey
