Новая система одобрения лекарств FDA на базе ИИ генерирует фальшивые исследования

Роберт Ф. Кеннеди-младший выступал за использование инструментов искусственного интеллекта, таких как Elsa, в таких агентствах, как FDA. CNN сообщает, что инструмент искусственного интеллекта FDA, Elsa, фабрикует несуществующие исследования и искажает результаты исследований. Сотрудники FDA отмечают склонность Elsa к "галлюцинациям" информации и предоставлению ненадежных результатов. Это вызывает опасения по поводу точности информации, генерируемой искусственным интеллектом, особенно когда проверка ограничена. Комиссия MAHA Кеннеди ранее опубликовала отчет, ссылающийся на поддельные исследования, что вызывает еще больше подозрений. FDA изначально расхваливала Elsa как экономически эффективную, но проблемы с точностью затмевают эти преимущества. Существуют опасения по поводу потенциальных последствий использования недостоверных исследований, сгенерированных искусственным интеллектом, для принятия решений в области общественного здравоохранения. Проверка сводок, сгенерированных искусственным интеллектом, по первоначальным отчетам необходима, но требует времени. Ошибки Elsa, даже после исправления, подчеркивают ограничения опоры исключительно на искусственный интеллект в критически важных задачах. Опора на дефектные инструменты искусственного интеллекта может поставить под угрозу регуляторные процессы FDA и общественное доверие.