据路透社今日报道，美国知名个人伤害律师事务所 Morgan & Morgan 向其 1000 多名律师发送了一封紧急邮件，警告他们：AI 能够编造虚假的判例信息，若在法庭文件中使用虚构的内容，可能会被解雇。
此前，怀俄明州的一名联邦法官威胁要对该事务所的两名律师进行制裁，因为他们在一起针对沃尔玛的诉讼中引用了虚假的判例。
其中一名律师在法庭文件中承认，他使用了一个“创造”案件的 AI 程序，并为此无意中犯下的错误道歉。AI 在法律文件中生成虚假信息的趋势，已使全美多个法院在过去两年内对至少七起案件中的律师进行过质疑或纪律处分，给诉讼双方和法官带来了新技术带来的困扰，路透社的调查发现。
生成式 AI 技术的进步有助于减少律师的研究和撰写时间，因此许多律师事务所选择与 AI 供应商合作，或开发自己的 AI 工具。汤森路透的调查显示，去年 63% 的律师表示曾在工作中使用 AI，其中 12% 的律师表示会定期使用。
然而，生成式 AI 以“自信地编造事实”而著称，法律专家提醒，律师在使用 AI 时必须格外小心。据AI在线了解，AI 有时会“幻觉”般地生成虚假信息，这是因为它们基于从大量数据中学到的统计模式进行生成，而非验证事实的准确性。
律师道德规范要求律师对其提交的法庭文件负责，并予以核实，否则将面临纪律处分。美国律师协会去年告知全体会员，甚至是通过 AI 生成的“无意错误”也必须遵守这一义务。
“即便法律研究工具发生了变化，后果也没有改变，”萨福克大学法学院院长 Andrew Perlman 说道。同时，他也是倡导利用 AI 提升法律工作效率的专家。
“当律师在没有核实的情况下使用 ChatGPT 或任何生成式 AI 工具来编造引用时，这就是不称职，简单来说就是这样。”
