RSS 제로헤지 뉴스
팔로우
AI 환각이 미국 법원에서 폭증하고 있다는 새로운 연구 결과
미국 법원 제출 서류에서 AI 관련 오류는 더 이상 개별적인 사건이 아니라 빠르게 확산되는 추세입니다. AI 제출 실수에 대한 기록 건수는 2025년 초 25건에서 같은 해 4분기 249건으로 극적으로 증가했습니다. 이러한 속도는 2026년에도 이어져, 2026년 1분기는 2025년 4분기 전체와 거의 맞먹었습니다. 이러한 오류는 캘리포니아가 전국에서 가장 많았으며, 그 뒤를 뉴욕, 텍사스, 플로리다, 일리노이가 이었으며, 전체 사건의 약 40%를 차지했습니다. 특히 플로리다는 2025년 동안 기록된 AI 관련 제출 오류가 급증했습니다. 중요한 발견은 이러한 기록된 사건의 60% 이상이 변호사가 아닌 당사자 본인이 직접 소송을 제기한 경우에 해당한다는 것입니다. ChatGPT가 식별된 AI 플랫폼 중 가장 자주 언급되었지만, 대부분의 제출 서류에서는 어떤 AI 시스템이 사용되었는지 명시하지 않았습니다. 가장 흔한 오류는 완전한 허위 사실이었으며, 절반 이상이 존재하지 않는 사건, 인용, 또는 법적 권위에 관한 것이었습니다. 이러한 AI 관련 환각의 80% 이상이 법령이나 규정보다는 판례 인용에서 발생했습니다. 궁극적으로 AI는 가치 있는 법률 도구가 될 수 있지만, 모든 인용 및 법적 권위는 법원 제출 전에 독립적으로 검증되어야 합니다.