新研究发现,美国法院中的人工智能幻觉正在激增
美国法院 filings 中出现的与 AI 相关的错误已不再是孤立事件,而成为一种迅速蔓延的趋势。2025 年初记录的 AI filings 错误数量从 25 起激增至同年第四季度的 249 起。这一势头延续至 2026 年,2026 年第一季度发生的错误数量几乎等同于 2025 年整个第四季度。加利福尼亚州在这些错误中位居全国之首,随后是纽约州、得克萨斯州、佛罗里达州和伊利诺伊州,四州合计约占所有事件的 40%。其中,佛罗里达州在 2025 年记录的与 AI 相关的 filings 错误出现显著上升。一项重要发现是,超过 60% 的已记录事件涉及自行代理的当事人(pro se litigants),而非律师。在被指认的 AI 平台中,ChatGPT 最为常见,但大多数 filings 并未指明具体使用了何种 AI 系统。最常见的错误是 outright fabrication,其中超过一半涉及不存在的案件、引文或法律权威来源。超过 80% 的此类 AI 幻觉(hallucinations)出现在判例法引文中,而非成文法或法规中。归根结底,AI 可以成为有价值的法律工具,但在提交法院之前,所有引文和法律权威来源都必须经过独立核实。