美国一律师用 ChatGPT 生成诉讼文书却出现伪造警察证词，被罚款 5000 美元

9 月 11 日消息，据路透社今天（11 日）报道，美国新墨西哥州最高法院宣布，辩护律师斯蒂芬 · 阿伦斯在为一名被判谋杀罪的当事人提出上诉时，提交的文书中出现了虚构证人和编造的警察证词。

然而，这些内容均由 OpenAI 的 ChatGPT 生成。该法院认定，阿伦斯因未核实提交文书的准确性构成藐视法庭，故对其处以罚款。

阿伦斯承认，自己借助 AI 起草了这份文书。法院指出，文书中的虚假证词来自“完全虚构的证人”。

陪审团还表示，阿伦斯“缺乏悔意，也缺乏对委托人的关心”。法官们对阿伦斯处以 5,000 美元（注：现汇率约合 33,640 元人民币）罚款，还将把他移交律师纪律委员会进行调查。

阿伦斯解释称，去年接手这起上诉案时，自己让 ChatGPT 整理庭审过程，却没有意识到 AI 产生“幻觉”、编造事实的程度会有多严重。“我很懊悔，但希望纪律委员会能考虑到，这是一次无心之失。所有依赖这项强大却有时不够稳定的技术的专业人士，都应从中吸取教训。”

越来越多的律师因未充分核查 AI 生成的诉讼文书就将其提交法院，受到州或联邦法官的处分。此前，已有数十名律师因文书中的 AI 错误受罚，包括编造判例引用、错误引用法律。阿伦斯的情况似乎更为严重，他在刑事上诉文书中使用了虚构的证人证词。

上个月，新墨西哥州最高法院要求阿伦斯解释，虚构内容是如何进入其主要上诉文书的。阿伦斯在听证会上解释称，自己把电脑生成的庭审文字记录和其他案件材料交给 ChatGPT，以为它会给出“无懈可击的摘要”。

报道提到，阿伦斯没有充分认识到 AI 存在出错的风险，令法官们难以置信。C· 香农 · 培根法官在听证会上质问：“律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖 AI 幻觉的问题，每天都是头条新闻！”