FDA의 신약 승인 AI, 가짜 연구 생성 중

"로버트 F. 케네디 주니어는 FDA와 같은 기관에서 Elsa와 같은 AI 도구를 지지했습니다. CNN은 FDA의 AI 도구인 Elsa가 존재하지 않는 연구를 조작하고 연구를 잘못 표현하고 있다고 보도했습니다. FDA 직원들은 Elsa가 정보를 "환각"하고 신뢰할 수 없는 결과를 제공하는 경향이 있다고 지적했습니다. 이는 AI가 생성한 정보의 정확성에 대한 우려를 제기하며, 특히 이중 확인이 제한될 때 더욱 그렇습니다. 케네디의 MAHA 위원회는 이전에 가짜 연구를 인용한 보고서를 발표하여 추가적인 의혹을 제기했습니다. FDA는 처음에 Elsa를 비용 효율적이라고 홍보했지만, 정확성 문제는 이러한 이점을 무색하게 하고 있습니다. AI로 생성된 부정확한 연구를 공중 보건 결정에 사용하는 잠재적인 결과에 대한 우려가 존재합니다. AI 생성 요약과 원본 보고서를 대조하는 것은 필수적이지만 시간이 많이 걸립니다. Elsa의 오류는 수정될 때조차도 중요한 작업에 AI에만 의존하는 것의 한계를 강조합니다. 결함이 있는 AI 도구에 의존하는 것은 FDA의 규제 프로세스와 대중의 신뢰를 손상시킬 수 있습니다."