AI 프롬프트 내부: 베테랑 건강 관련 계약을 '먹어치운' DOGE의 실체

정부 효율성 부서(DOGE)는 트럼프 대통령의 불필요한 계약 취소 행정 명령의 일환으로 재향군인부(VA)의 계약 검토에 AI 스크립트를 사용했습니다. 사힐 라빙지아가 작성한 이 AI 스크립트는 모호하고 상반되는 지시를 받아 실수를 저질렀습니다. 스크립트는 "환자 치료를 직접 지원하지 않는" 계약을 취소하도록 설계되었지만, 라빙지아나 모델 모두 그러한 판단을 내릴 수 있는 지식이 부족했습니다. 전문가들은 부적절한 구형 모델 사용과 계약 금액을 "환각"하는 모델의 경향을 포함하여 코드에서 수많은 결함을 발견했습니다. 또한 전문가들은 VA의 운영 방식에 대한 맥락이 거의 없는 기성품 AI 모델 사용을 비판했습니다. 라빙지아는 결함을 인정하고 시간 부족과 적절한 도구 부족을 이유로 들었습니다. AI 모델은 모호하고 때로는 상반되는 지시를 받아 계약 취소 표시에 실수를 범했습니다. 전문가들은 모델의 실수가 VA의 운영 방식과 "직접 환자 치료"의 의미에 대한 이해 부족 때문이라고 말했습니다. 이러한 실수로 인해 인터넷 연결과 같은 중요 서비스 계약이 취소 대상으로 잘못 표시되었습니다. 전반적으로 전문가들은 이러한 방식의 AI 사용은 오류가 발생하기 쉽고, 더욱 신중한 계획과 전문 지식 없이는 시도해서는 안 된다고 결론지었습니다.