ChatGPT-4o에서 "타임 밴딧(Time Bandit)"이라는 탈옥 취약점이 발견되었습니다. 이 취약점을 이용하면 공격자가 안전 장치를 우회하여 AI에게 불법적이거나 위험한 콘텐츠를 생성하도록 지시할 수 있습니다. 이 취약점은 검색 기능을 통해서든, AI에 직접 질문을 함으로써든 특정 역사 시대에 대한 질문을 함으로써 활성화됩니다. 일단 특정 역사적 시대가 설정되면, 공격자는 시간 혼동과 절차적 모호성을 악용하여 안전 지침을 우회할 수 있습니다. 이로 인해 ChatGPT가 불법 콘텐츠를 생성할 수 있으며, 동기가 있는 위협 행위자가 대규모로 악용할 수 있습니다. 이 취약점은 직접적인 프롬프트를 통해서 또는 검색 기능을 사용하여 악용될 수 있으며, 후자의 경우 사용자 인증이 필요합니다. 테스트 중 CERT/CC는 이 탈옥을 재현할 수 있었지만, ChatGPT는 프롬프트를 삭제하고 사용 정책 위반이라고 명시했습니다. 그러나 ChatGPT는 그 후 삭제된 프롬프트에 대한 답변을 계속했으며, 이 활동은 여러 번 반복되었습니다. 1800년대 또는 1900년대의 기간을 사용할 때 이 탈옥이 더 성공적이었습니다. 이 취약점은 OpenAI의 보안 및 안전 지침을 우회하여 공격자가 피싱 이메일 및 악성 코드 생성과 같은 악의적인 목적으로 ChatGPT를 악용할 수 있도록 허용합니다. OpenAI는 이후 해당 취약점을 완화했으며, 모델을 안전하게 개발하고 악의적인 목적으로 사용되는 것을 방지하기 위해 노력하고 있다고 밝혔습니다.