À l'intérieur des invites d'IA DOGE utilisées pour « grignoter » les contrats liés à la santé des vétérans

"Le département de l'efficacité du gouvernement (DOGE) a utilisé un script d'intelligence artificielle (IA) pour examiner les contrats du département des affaires des anciens combattants (VA) dans le cadre de l'ordre exécutif du président Trump visant à annuler les contrats inutiles. Le script d'IA, écrit par Sahil Lavingia, a reçu des instructions peu claires et contradictoires, ce qui a conduit à des erreurs. Le script était censé annuler les contrats qui ne soutenaient pas directement les soins aux patients, mais ni Lavingia ni le modèle n'avaient les connaissances nécessaires pour prendre de telles décisions. Les experts ont trouvé de nombreuses failles dans le code, notamment l'utilisation de modèles plus anciens non adaptés à la tâche, et la tendance du modèle à "halluciner" les montants des contrats. Les experts ont également critiqué l'utilisation de modèles d'IA standard avec peu de contexte sur le fonctionnement de la VA. Lavingia a reconnu les failles et a blâmé un manque de temps et d'outils appropriés. Le modèle d'IA a reçu des instructions peu claires et parfois contradictoires, ce qui a conduit à des erreurs dans la signalisation des contrats pour annulation. Les experts ont déclaré que les erreurs du modèle étaient dues à un manque de compréhension de la façon dont la VA fonctionne et à ce qui constitue des "soins directs aux patients". Les erreurs ont conduit à des contrats pour des services importants comme la connectivité Internet étant signalés pour annulation. Dans l'ensemble, les experts ont conclu que l'utilisation de l'IA de cette manière était sujette à des erreurs et ne devrait pas avoir été tentée sans une planification et une expertise plus soigneuses."