AI律所，假引用
一个名叫MarcTrent.AI的律所在其网站上声称，它使用AI来"发现传统律所错失的法律机会"，并通过"预测建模将法律成功率提高35%"。听起来很厉害。但Ars Technica报道的这个案件告诉我们，当AI律所遇上现实法庭，结果可能非常尴尬。
案件的起因是一个叫Nikko D’Ambrosio的人试图起诉Meta，要求删除一个芝加哥Facebook群组中对他的负面评价。这个群组叫"Are We Dating the Same Guy"，成员主要是女性，用来分享约会中的不良体验。D’Ambrosio指控二十多名女性诽谤他，并指责Meta通过推广该帖子获利。案件在一审中就被驳回，法院认为无法通过修改诉状来挽救。但D’Ambrosio选择了上诉，信心来源是MarcTrent.AI提供的法律策略。
判例法是编的
问题出在上诉过程中。MarcTrent.AI的律师团队提交的法律文书中引用了多个判例来支持其论点。但对方律师和法院审查后发现，这些判例中有相当一部分是虚构的——案例编号不存在，判决内容是编造的。这不是AI第一次在法律领域制造假引用。2023年，纽约一名律师因使用ChatGPT生成的虚假案例被法院处罚。当时这件事上了全球头条。三年过去了，同样的问题仍在发生，只是换了一家"专业"的AI律所。
讽刺的是，MarcTrent.AI的商业模式恰恰建立在AI的可靠性之上。它声称AI能让法律服务更高效、更准确。但实际表现证明，AI生成的法律文书需要比人类写的更仔细地审查，而不是更少。大语言模型的工作原理是预测下一个最可能的词，它不"理解"法律，也不"知道"某个案例是否存在。当你问它"有没有支持这个论点的案例"时，它会自信满满地编造一个看起来完全合理的引用。这就是所谓的"幻觉"，在法律场景中后果尤其严重。
法律行业该学到什么
这个案件给法律行业敲响了警钟。AI确实可以辅助法律工作——合同审查、案例检索、文书初稿，这些场景中AI的价值已经被验证。但"辅助"和"替代"之间有一条清晰的线。律师的核心职责之一是对法律文书的准确性负责。当你把AI生成的内容直接提交给法院而不做核实，你不是在使用工具，你是在放弃职责。法院对这类行为的容忍度正在快速下降。
对AI行业来说，这个案例也很有教育意义。用户对AI的信任是脆弱的。每一次AI"幻觉"导致的公开翻车，都会削弱公众对AI工具的信任。特别是法律、医疗、金融这些高风险领域，一次失误的代价远大于效率提升的收益。法院可能会对MarcTrent.AI的律师施加制裁。如果制裁力度足够大，可能会对整个"AI法律服务"赛道产生寒蝉效应。这未必是坏事——在AI能力真正可靠之前，给它套上严格的人类审查枷锁，可能是保护用户和行业自身的最佳方案。