AIの幻覚が米国の裁判所で急増、新研究が発見 ノート

AIの幻覚が米国の裁判所で急増、新研究が発見

米国裁判所の訴訟書類におけるAI関連の誤りは、もはや孤立した事例ではなく、急速に拡大する傾向となっています。AIによる提出書類の誤りの記録件数は、2025年初頭の25件から同年末第4四半期には249件へと劇的に増加しました。このペースは2026年も続き、2026年第1四半期は2025年第4四半期全体にほぼ匹敵しました。これらの誤りはカリフォルニア州が全国で最も多く、次いでニューヨーク州、テキサス州、フロリダ州、イリノイ州が続き、全事例の約40%を占めています。特にフロリダ州では、2025年にAI関連の提出書類の誤りが記録的に急増しました。重要な発見として、これらの記録された事例の60%以上が弁護士ではなく、本人訴訟の当事者によって引き起こされたことが挙げられます。特定された場合、ChatGPTが最も頻繁に名前が挙がったAIプラットフォームでしたが、ほとんどの提出書類ではどのAIシステムが使用されたかは特定されていませんでした。最も一般的な誤りは、完全な捏造であり、半数以上が実在しない事件、引用、または法的権威で構成されていました。これらのAI関連の幻覚の80%以上は、成文法や規制ではなく、判例引用で発生しました。最終的に、AIは貴重な法的ツールとなり得ますが、すべての引用および法的権威は、裁判所への提出前に独立して検証されなければなりません。
CdXz5zHNQW_6epNcjEhzD.jpeg