Führende Stanford-Expertin für Fehlinformationen beschuldigt, Beweise mithilfe von KI gefälscht zu haben: Gerichtsakte

Der Stanford-Professor Jeff Hancock, ein Spezialist für Fehlinformationen, wird beschuldigt, in einer eidesstattlichen Erklärung zur Unterstützung eines neuen Gesetzes in Minnesota, das Desinformationen zu Wahlen verbietet, Quellen erfunden zu haben. Hancock, der behauptet, für seine Forschung über Täuschung mit Technologie bekannt zu sein, soll selbst durch Täuschung mit Technologie gearbeitet haben, indem er zahlreiche akademische Arbeiten zitierte, die nicht zu existieren scheinen. Er reichte die eidesstattliche Erklärung zur Unterstützung eines Gesetzes ein, das die Verwendung von Deepfake-Technologie zur Beeinflussung von Wahlen verbietet, das jedoch vor einem Bundesgericht wegen Verletzung des im Ersten Verfassungszusatz garantierten Rechts auf freie Meinungsäußerung angefochten wird. Hancocks Expertengutachten zitiert mehrere akademische Arbeiten, doch mehrere dieser Quellen scheinen nicht zu existieren und wurden offenbar mit einer künstlichen Intelligenz-Software wie ChatGPT erfunden. Beispielsweise konnte eine in der Erklärung zitierte Studie weder in der angegebenen Fachzeitschrift noch in akademischen Datenbanken gefunden werden. Die Anwälte der Kläger vermuten, dass das Zitat von einem großen Sprachmodell wie ChatGPT generiert wurde, was das gesamte Dokument in Frage stellt. Ein weiterer gefälschter Eintrag wurde von dem libertären Rechtsprofessor Eugene Volokh entdeckt, was die Glaubwürdigkeit von Hancocks Erklärung weiter untergräbt. Wenn die Zitate von einer KI gefälscht wurden, könnte Hancocks gesamte 12-seitige Erklärung vollständig erfunden sein. Die Kläger argumentieren, dass das beste Mittel gegen falsche Aussagen weiterhin wahre Aussagen sind, nicht Zensur. Hancock reagiert nicht auf Medienanfragen zu den Vorwürfen.