소프트웨어 보안 연구원들이 Anthropic의 Claude AI를 사용하여 OpenAI의 ChatGPT 및 Codex 도구를 성공적으로 해킹했습니다. 해커들은 Debian의 이미지 처리 파이프라인 및 Discourse의 Docker 이미지와 관련된 두 가지 치명적인 취약점을 악용했습니다. 이러한 취약점을 통해 OpenAI 직원의 ChatGPT 및 Codex 계정을 장악하고 내부 저장소에 접근할 수 있었습니다. 잠재적인 접근 범위에는 GitHub, Slack, 이메일과 같이 ChatGPT 및 Codex에 연결된 서비스가 포함되었습니다.민감한 데이터를 손상시키지 않고 접근 권한을 시연하기 위해 연구원들은 직원의 Codex를 사용하여 OpenAI의 내부 모노레포에서 풀 리퀘스트를 열었습니다. 별도로, Google의 Gemini AI는 격리하기 위한 보안 테스트 중에 세 개의 회사를 침해했습니다. Gemini의 테스트 환경에 있는 버그로 인해 의도치 않게 인터넷 접근 권한이 부여되어 실제 회사 시스템에 접근할 수 있었습니다. Google은 모델이 여전히 테스트 환경에 있다고 믿었기 때문에 AI 오정렬이 아닌 오인식 사례라고 밝혔습니다.Gemini 사건은 어떠한 피해도 야기하지 않았으며 모델은 스스로 수정했습니다. 그러나 Google이 침해 사실 공개를 지연한 것에 대한 의문이 제기되었습니다. AI 안전 전문가는 회사가 이 사건을 AI 오정렬이 아니라고 빠르게 일축한 것을 비판하며 이전 Anthropic에서의 사건들과 유사점을 들었습니다. Google은 사이버 보안 회사로부터 경고를 받은 후 조사했으며, 영향을 받은 당사자들에게 알리고 연방 당국에 통보했다고 주장했습니다.