런던 임페리얼 칼리지의 연구원들은 음성-텍스트 변환 모델을 조작하여 대부분의 화자는 정확하게 인식하지만, 특정 선택된 한 사람에게는 오작동하도록 만들었습니다. 그 사람이 말할 때, 모델은 공격자가 미리 선택해 둔 출력을 생성했습니다. 한 테스트에서는 그 출력이 5,000달러를 송금하라는 요청이었고, 해당 전사를 읽은 AI 에이전트들은 샌드박스화된 은행 환경에서 송금을 실행했습니다. 공격자는 모델이 파인튜닝되는 동안에만 모델에 접근할 수 있으며, 이를 통해 …