두 가지 시스템적인 탈옥(jailbreak) 취약점이 여러 생성형 AI 서비스에서 발견되어 공격자가 안전 프로토콜을 우회하고 불법적이거나 위험한 콘텐츠를 생성할 수 있게 되었습니다. 첫 번째 탈옥 기법인 "Inception"은 AI에게 허구적인 시나리오를 상상하도록 유도하여 안전 장치를 우회하는 방식입니다. 두 번째 기법은 특정 요청에 응답하지 않는 방법에 대한 정보를 요청하여 불법적인 프롬프트와 정상적인 프롬프트 간을 전환하는 것입니다. 두 가지 기법 모두 거의 동일한 구문을 사용하며 OpenAI, Anthropic, Microsoft, Google, Twitter/X, Facebook 등 여러 인기 AI 시스템에 영향을 미치므로 시스템적인 취약점임을 나타냅니다. 이러한 탈옥 기법들은 각각의 심각도는 낮지만, 동기가 있는 위협 행위자가 불법적인 주제에 대한 콘텐츠 생성과 같은 악의적인 행위를 수행하는 데 악용될 수 있습니다. 시스템적인 특성으로 인해 공격 위험이 높아지며, 합법적인 서비스 사용이 악의적인 활동을 은폐할 수 있습니다. 영향을 받은 여러 업체들이 이 문제에 대한 성명을 발표하고 해당 탈옥 기법을 방지하기 위해 서비스를 변경했습니다. David Kuzsmar와 Jacob Liddle이 이 탈옥 기법들을 발견했으며, Christopher Cullen이 이 문서를 작성했습니다. 이러한 탈옥 기법들은 AI 서비스의 보안과 안전에 중대한 영향을 미칩니다.