ZeroHedge News на русском
Подписаться
Галлюцинации ИИ массово распространяются в судах США, показало новое исследование
Ошибки, связанные с ИИ, в судебных документах США перестали быть единичными случаями и превратились в быстро расширяющуюся тенденцию. Число задокументированных ошибок, связанных с ИИ, резко возросло с 25 случаев в начале 2025 года до 249 к четвертому кварталу того же года. Этот темп сохранился и в 2026 году: первый квартал 2026 года почти сравнялся по количеству ошибок со всем последним кварталом 2025 года. Калифорния лидирует по этим ошибкам, за ней следуют Нью-Йорк, Техас, Флорида и Иллинойс, на долю которых приходится около 40% всех инцидентов. Во Флориде, в частности, наблюдался резкий рост зарегистрированных ошибок, связанных с ИИ, в 2025 году. Важным выводом является то, что более 60% этих задокументированных инцидентов касались сторон, выступающих без адвоката, а не самих адвокатов. ChatGPT был наиболее часто упоминаемой платформой ИИ, когда она была идентифицирована, хотя в большинстве документов не указывалось, какая система ИИ использовалась. Наиболее распространенные ошибки заключались в откровенном вымысле: более половины из них состояли из несуществующих дел, цитат или правовых авторитетов. Более 80% этих галлюцинаций, связанных с ИИ, произошли в цитатах из прецедентного права, а не из статутов или нормативных актов. В конечном итоге, ИИ может быть ценным юридическим инструментом, но все цитаты и правовые авторитеты должны быть независимо проверены перед подачей в суд.