ChatGPT 使用者在法庭上引用了其伪造的证人和警方证词” 笔记

ChatGPT 使用者在法庭上引用了其伪造的证人和警方证词”

新墨西哥州律师斯蒂芬·阿伦斯(Stephen Aarons)因向州最高法院提交的一份谋杀罪上诉法律文件而受到处罚,被处以 5000 美元罚款并被认定藐视法庭。该文件包含由 OpenAI 的 ChatGPT 生成的虚构警察证词和证人陈述。阿伦斯承认使用人工智能程序协助总结上诉所需的庭审记录,并表示他未意识到人工智能在事实方面可能产生“幻觉”(即捏造事实)的程度。法院对其对人工智能潜在错误缺乏认知表示难以置信。此案是律师因法律文件中的人工智能生成虚假信息而面临制裁的日益增长趋势的一部分。阿伦斯的案件尤为令人担忧,因其涉及在刑事上诉中编造的证人证词。法院计划将其转交律师纪律委员会进行进一步调查。