L'IA d'approbation de nouveaux médicaments de la FDA génère des études factices

Robert F. Kennedy Jr. a plaidé en faveur d'outils d'IA comme Elsa au sein d'agences comme la FDA. Selon CNN, l'outil d'IA de la FDA, Elsa, fabrique des études inexistantes et fausse les recherches. Les employés de la FDA ont noté la tendance d'Elsa à « halluciner » des informations et à fournir des sorties non fiables. Cela soulève des inquiétudes quant à l'exactitude des informations générées par l'IA, en particulier lorsque la vérification est limitée. Le rapport précédent de la commission MAHA de Kennedy citait déjà des études factices, renforçant les soupçons. La FDA avait initialement vanté Elsa comme étant économique, mais les problèmes d'exactitude éclipsent ces avantages. Des inquiétudes existent quant aux conséquences possibles de l'utilisation d'études inexactes générées par l'IA pour les décisions de santé publique. Vérifier les résumés générés par l'IA contre les rapports originaux est essentiel, mais chronophage. Les erreurs d'Elsa, même corrigées, mettent en évidence les limites de la confiance exclusive en l'IA pour les tâches critiques. La dépendance à des outils d'IA défectueux pourrait compromettre les processus réglementaires de la FDA et la confiance du public.