스탠포드 최고 '잘못된 정보 전문가'가 AI를 사용하여 증거를 조작했다는 혐의: 법원 문서

허위 정보 전문가인 스탠포드 대학의 제프 핸콕 교수는 미네소타에서 선거 관련 허위 정보를 금지하는 새로운 법안을 지지하는 진술서의 출처를 조작한 혐의로 기소되었다. 기술을 이용한 속임수에 관한 연구로 잘 알려져 있다고 주장하는 핸콕은 존재하지 않는 것으로 보이는 수많은 학술 논문을 인용하여 기술을 이용한 속임수를 사용했다고 주장했다. 그는 선거에 영향을 미치기 위해 딥 페이크 기술을 사용하는 것을 금지하는 법률을 지지하는 진술서를 제출했는데, 이 법안은 수정헌법 제1조의 표현의 자유 보호를 위반한 혐의로 연방 법원에서 다툼을 벌이고 있다. 핸콕의 전문가 선언은 여러 학술 연구를 인용하지만 그 출처 중 일부는 존재하지 않는 것으로 보이며 ChatGPT와 같은 인공 지능 소프트웨어에 의해 만들어진 것으로 보입니다. 예를 들어, 선언문에 인용된 연구는 참조된 저널이나 학술 데이터베이스에서 찾을 수 없습니다. 원고 측 변호인은 해당 인용이 문서 전체에 의문을 제기하는 ChatGPT와 같은 대규모 언어 모델에 의해 생성되었다고 주장합니다. 자유지상주의 법학 교수인 유진 볼로크(Eugene Volokh)에 의해 또 다른 가짜 항목이 발견되었는데, 이는 핸콕의 선언의 신뢰성을 더욱 훼손하고 있다. 만약 그 인용문들이 AI에 의해 조작되었다면, 핸콕의 12페이지 분량의 선언문 전체가 완전히 조작되었을 수도 있다. 원고 측은 허위 발언에 대한 최선의 구제책은 검열이 아니라 진실한 발언이라고 주장한다. 핸콕은 이 혐의에 대한 언론의 질의에 응답하지 않고 있다.