Внутри AI-пromptов DOGE, которые использовались для «пережевывания» договоров, связанных со здоровьем ветеранов

Департамент эффективности правительства (DOGE) использовал скрипт искусственного интеллекта (ИИ) для проверки контрактов Департамента по делам ветеранов (VA) в рамках исполнительного указа президента Трампа о отмене ненужных контрактов. Скрипт ИИ, написанный Сахилом Лавингией, получил нечеткие и противоречивые инструкции, что привело к ошибкам. Скрипт должен был отменять контракты, которые не «непосредственно поддерживали уход за пациентами», но ни Лавиния, ни модель не имели знаний для принятия таких решений. Эксперты нашли множество недостатков в коде, включая использование устаревших моделей, не подходящих для этой задачи, и тенденцию модели к «галлюцинациям» сумм контрактов. Они также критиковали использование готовых моделей ИИ с недостаточным контекстом о том, как работает VA. Лавиния признал недостатки и обвинил в этом недостаток времени и надлежащих инструментов. Модель ИИ получила инструкции, которые были нечеткими и иногда противоречивыми, что привело к ошибкам при флагировании контрактов для отмены. Эксперты заявили, что ошибки модели были вызваны недостаточным пониманием и тем, что составляет «непосредственную уход за пациентами». Ошибки привели к флагированию контрактов, таких как контракты на интернет-соединение, для отмены. В целом, эксперты заключили, что использование ИИ в этом виде склонно к ошибкам и не должно было быть предпринято без более тщательного планирования и экспертизы.