FDAの新しい医薬品承認AIが偽の研究を生成している

ロバート・F・ケネディ・ジュニアは、FDAのような機関でElsaのようなAIツールの導入を提唱しました。CNNの報道によると、FDAのAIツールであるElsaは、存在しない研究を捏造し、研究を誤って伝えています。FDAの職員は、Elsaが情報を「幻覚（ハルシネーション）」させる傾向があり、信頼性の低い出力を提供すると指摘しています。これは、特に二重チェックが限定的である場合、AIによって生成された情報の正確性に対する懸念を引き起こします。ケネディ氏のMAHA委員会は以前、偽の研究を引用した報告書を発表しており、さらなる疑念を生んでいます。FDAは当初Elsaを費用対効果が高いと宣伝していましたが、正確性の問題がこれらの利点を覆い隠しています。公衆衛生の意思決定にAIによって生成された不正確な研究を使用した場合の潜在的な結果についての懸念が存在します。AIによって生成された要約を元のレポートと照合することは不可欠ですが、時間のかかる作業です。Elsaのエラーは、修正された場合でも、重要なタスクにAIのみに依存することの限界を浮き彫りにしています。不完全なAIツールへの依存は、FDAの規制プロセスと公衆の信頼を損なう可能性があります。