法官因律师使用虚假AI生成的法律研究而处以罚款

一位美国法官严厉批评了两家律师事务所，在法院文件中包含了由AI生成的虚假法律信息，称其为法律责任的重大失职。

来自加利福尼亚的法官迈克尔·威尔纳，由于发现简短报告中充满了“错误的，不准确的，误导性的法律引文和引述”，因此对这些公司罚款31,000美元，这最初是由WIRED报道的。

“没有任何理智充分的律师应该将研究和写作外包给AI，”威尔纳在他的裁决中写道，警告说他已经接近在司法命令中包含这些虚假的案件。

“我阅读了他们的简短陈述，被他们引用的权威所说服（或至少感到好奇），并查阅了这些决定，以便更多地了解它们——只是发现它们根本不存在，”他说，正如WIRED报道的那样。“这真的很可怕，”他补充说。

这种情况是在针对State Farm的民事诉讼中出现的。一位律师使用AI工具起草了一个法律大纲。这份文件包含虚假的研究，被交给了更大的律师事务所K&L Gates，后者将其添加到官方文件中。

据WIRED报道，Wilner指出，“似乎没有一位律师或者事务所的员工在提交简短陈述之前对这项研究进行引证检查或其他审查。”

在发现至少两个被引用的案例完全是捏造的之后，威尔纳法官要求K&L Gates进行澄清。当他们提交了新版本时，它竟然包含了更多的虚假引用。法官要求一个解释，结果揭示了他们承认使用AI工具的宣誓声明，正如WIRED报道的那样。

威尔纳总结说：“最初，未经披露的使用AI产品来生成简报的第一稿是彻头彻尾的错误[…]而且，将这些材料发送给其他律师，而没有披露其不靠谱的AI来源，实际上将这些专业人士置于了危险之中，”正如WIRED报道的那样。

这并不是AI在法庭上引起麻烦的第一次。实际上，最近有两位怀俄明州的律师承认在对沃尔玛的诉讼文件中使用了伪造的AI生成的案例。一位联邦法官威胁要对他们进行制裁。

在这种情况下，AI的“幻觉” —— AI工具生成的虚构信息 —— 正在成为法律系统中日益增长的问题。