Experto en 'Desinformación' de Stanford acusado de utilizar IA para fabricar evidencia: Presentación en la corte

El profesor de Stanford Jeff Hancock, un especialista en desinformación, ha sido acusado de fabricar fuentes en una declaración jurada que apoya una nueva legislación en Minnesota que prohíbe la desinformación electoral. Hancock, quien afirma ser conocido por su investigación sobre el engaño con la tecnología, presuntamente utilizó el engaño con la tecnología citando numerosos trabajos académicos que no parecen existir. Presentó la declaración en apoyo de una ley que prohíbe el uso de tecnología de "deep fake" para influir en una elección, que está siendo desafiada en un tribunal federal por violar las protecciones de libertad de expresión de la Primera Enmienda. La declaración de experto de Hancock cita varios trabajos académicos, pero varios de esos fuentes no parecen existir y parecen haber sido inventados por software de inteligencia artificial como ChatGPT. Por ejemplo, un estudio citado en la declaración no se encontró en la revista de referencia ni en bases de datos académicas. Los abogados de los demandantes sugieren que la cita fue generada por un modelo de lenguaje grande como ChatGPT, lo que cuestiona la validez de todo el documento. Otra entrada falsa fue encontrada por el profesor de derecho libertario Eugene Volokh, lo que socava aún más la credibilidad de la declaración de Hancock. Si las citas fueron fabricadas por IA, toda la declaración de 12 páginas de Hancock puede haber sido completamente inventada. Los demandantes argumentan que el mejor remedio para el discurso falso sigue siendo el discurso verdadero, no la censura. Hancock no está respondiendo a las consultas de los medios sobre las acusaciones.