Die neue Zulassungs-AI der FDA für Arzneimittel erzeugt gefälschte Studien

"Robert F. Kennedy Jr. setzte sich für die Verwendung von KI-Werkzeugen wie Elsa in Behörden wie der FDA ein. Laut CNN fabriziert das KI-Werkzeug der FDA, Elsa, nicht existente Studien und verfälscht Forschungsergebnisse. Mitarbeiter der FDA haben Elsas Tendenz bemerkt, "halluzinierte" Informationen bereitzustellen und unzuverlässige Ausgaben zu liefern. Dies wirft Bedenken hinsichtlich der Genauigkeit der von der KI generierten Informationen auf, insbesondere wenn die Überprüfung begrenzt ist. Der MAHA-Ausschuss von Kennedy veröffentlichte zuvor einen Bericht, in dem gefälschte Studien aufgeführt wurden, was weitere Verdachtsmomente aufwirft. Die FDA pries Elsa ursprünglich als kosteneffektiv an, aber Genauigkeitsprobleme überschatten diese Vorteile. Es bestehen Bedenken hinsichtlich der möglichen Folgen der Verwendung von durch KI generierten, ungenauen Studien für öffentliche Gesundheitsentscheidungen. Das Überprüfen von KI-generierten Zusammenfassungen gegen die Originalberichte ist essentiell, aber zeitaufwendig. Elsas Fehler, selbst wenn sie korrigiert werden, unterstreichen die Grenzen der alleinigen Verwendung von KI für kritische Aufgaben. Die Abhängigkeit von fehlerhaften KI-Werkzeugen könnte die regulatorischen Prozesse der FDA und das öffentliche Vertrauen beeinträchtigen."