当AI编造法律判例
人工智能继续涉足严谨性不可妥协的领域。最新案例：享誉盛名的美国律师事务所Sullivan & Cromwell不得不为一份提交法庭的文件中的引用文献道歉——这些引用完全是由AI工具凭空编造的。业界专家称这种现象为"幻觉"，这是语言模型的一个令人不安的倾向，它们用令人困惑的自信编造信息。
Sullivan & Cromwell合伙人Andrew Dietderich承认，虽然公司确实制定了内部程序来避免此类失误，但在这种情况下根本没有得到遵守。换句话说：防护措施是存在的，但没有人执行。这是典型的人为错误，因为对机器的信任过度而加剧。
用简单术语解释"幻觉"
为了理解发生了什么，需要做一点技术性的迂回。大型语言模型（LLM），例如为ChatGPT及其竞争对手供能的模型，通过统计预测给定上下文中最可能的词来生成文本。问题在于：它们并不真正"知道"自己在说什么。当要求它们引用判例时，它们可以轻松编造一个看起来完全合理的判例——包括判决书号码、当事人名称、日期——但这些判例从未存在过。
在司法背景下，向法庭提交虚假引用并非小事。这可能从令人尴尬的简单更正到对相关律师的纪律处分。作为华尔街最享负盛名的律师事务所之一，Sullivan & Cromwell目前只是道歉并承诺加强内部流程。还好。
法律界的回应：首先进行培训
面对这些问题，法律界开始组织应对。在距离Sullivan & Cromwell纽约办公室数千公里之外的密西西比学院法学院决定采取主动行动。最近，人工智能培训对所有一年级学生成为强制性课程。
其思路很简单：与其忽视AI或彻底禁止它，不如教导未来的法律专业人士负责任地使用它——特别是识别其局限性。理解一个工具可能"幻想"引用文献，这正是能够避免在法官面前发生外交事件的关键知识。
这一举措是更广泛运动的一部分：美国法院本身开始对AI在司法程序中的使用进行立法，某些法院现在要求律师明确声明是否使用AI工具来准备文件。
揭示普遍挑战的张力
法律界正在发生的事实上是许多面临生成式AI的部门经历的镜像。一方面，该技术提供了可观的生产力收益：文件起草、判例研究、合同分析。另一方面，它引入了新的错误向量，有时甚为隐蔽，正因为所生成的结果看起来令人信服。
与加密货币领域的平行是有意义的。在一个参与者竞相采用新技术的领域——通常在监管框架就位之前——Sullivan & Cromwell的遭遇提醒我们，采用工具并不能取代理解其工作原理。任何技术，无论多么有前景，都不能替代人类判断和验证流程。
总体展望
Sullivan & Cromwell事件和密西西比学院法学院的举措展示了对同一挑战的两个互补回应：如何在不被AI缺陷所困的情况下整合它。前期培训和后期控制程序似乎是负责任采用的两大支柱。
随着AI进入法律、医学或金融等敏感领域，问题不再是是否使用它，而是如何使用。显然，即使是世界上最好的律师事务所仍然有一些课要学——这某种程度上让我们对自己与技术的关系感到些许放心。