Expert en 'désinformation' de Stanford accusé d'avoir utilisé l'IA pour fabriquer des preuves : dépôt de plainte au tribunal

Le professeur de Stanford Jeff Hancock, spécialiste de la désinformation, est accusé d'avoir fabriqué des sources dans une déclaration sous serment soutenant une nouvelle législation au Minnesota qui interdit la désinformation électorale. Hancock, qui prétend être bien connu pour ses recherches sur la tromperie avec la technologie, aurait utilisé la tromperie avec la technologie en citant de nombreux travaux universitaires qui ne semblent pas exister. Il a soumis la déclaration pour soutenir une loi qui interdit l'utilisation de la technologie de deep fake pour influencer une élection, qui est contestée en cour fédérale pour violation de la liberté d'expression protégée par le Premier Amendement. La déclaration d'expert de Hancock cite plusieurs travaux universitaires, mais plusieurs de ces sources ne semblent pas exister et semblent avoir été inventées par des logiciels de intelligence artificielle comme ChatGPT. Par exemple, une étude citée dans la déclaration n'a pas été trouvée dans le journal de référence ou dans les bases de données universitaires. Les avocats des plaignants suggèrent que la citation a été générée par un modèle de langage large comme ChatGPT, ce qui remet en question l'ensemble du document. Une autre entrée factice a été découverte par le professeur de droit libertarien Eugene Volokh, ce qui mine encore plus la crédibilité de la déclaration de Hancock. Si les citations ont été fabriquées par l'IA, la déclaration de 12 pages de Hancock pourrait avoir été entièrement inventée. Les plaignants argumentent que le meilleur remède pour les discours faux est le discours vrai, et non la censure. Hancock ne répond pas aux enquêtes des médias sur les allégations.