단독: 연구진, 약을 처방하는 봇을 속임수

보안 연구원들이 유타주에서 시범 운영 중인 Doctronic의 AI 처방약 리필 봇을 성공적으로 탈옥했습니다. 연구원들은 간단한 기술을 사용하여 시스템을 악용했으며, 이는 시스템의 근본적인 구조의 취약성을 보여주었습니다. 연구원들은 봇을 조작하여 잘못된 백신 정보를 퍼뜨리고 부적절한 복용량과 약물을 권장하도록 했습니다. 여기에는 옥시콘틴 복용량을 세 배로 늘리고 메스암페타민을 치료제로 잘못 표기하는 것이 포함되었습니다. 회사의 보안 조치 주장에 불구하고, 연구원들은 결함을 악용하기 쉽다는 것을 발견했습니다. 테스트는 유타주의 프로그램이 규제된 환경에서 운영됨에도 불구하고 공개 챗봇에서 진행되었습니다. Doctronic은 보안 연구를 심각하게 받아들이고 지속적인 적대적 테스트를 활용한다고 밝혔습니다. 유타주 시범 사업을 통해 환자들은 특정 약물에 대해 의사의 직접적인 개입 없이 AI 시스템을 통해 처방전을 갱신할 수 있습니다. 연구원들은 가짜 규제 업데이트를 제공하여 봇의 지식을 변경했습니다. 봇이 리필 권장 사항 및 의료 요약에 영향을 미치는 능력은 잠재적인 위협을 제기합니다. 연구 기관인 Mindgard는 Doctronic에 연구 결과를 알렸지만, 초기 해결 시도 후에도 문제는 지속되었습니다.