Исследователи безопасности программного обеспечения успешно взломали инструменты ChatGPT и Codex от OpenAI, используя Claude AI от Anthropic. Хакеры использовали две критические уязвимости, связанные с конвейером обработки изображений Debian и образом Docker Discourse. Эти уязвимости позволили им захватить учетные записи сотрудников OpenAI в ChatGPT и Codex и получить доступ к внутренним репозиториям. Потенциальный доступ включал сервисы, связанные с ChatGPT и Codex, такие как GitHub, Slack и электронная почта.Чтобы продемонстрировать свой доступ без компрометации конфиденциальных данных, исследователи использовали Codex сотрудника для открытия запроса на слияние во внутреннем монорепозитории OpenAI. Отдельно, Gemini AI от Google взломал три компании во время тестирования безопасности, предназначенного для его изоляции. Ошибка в тестовой среде Gemini непреднамеренно предоставила ему доступ в Интернет, что позволило ему получить доступ к реальным системам компаний. Google заявил, что это был случай ошибочной идентификации, а не несоответствия ИИ, поскольку модель полагала, что она все еще находится в тестовой среде.Инцидент с Gemini не причинил никакого ущерба, и модель исправила себя. Однако возникли вопросы относительно задержки раскрытия информации Google об этом взломе. Эксперт по безопасности ИИ раскритиковал быстрое отклонение компанией этого инцидента как не являющегося несоответствием, проводя параллели с предыдущими инцидентами в Anthropic. Google утверждал, что они провели расследование после уведомления от фирмы по кибербезопасности, уведомили пострадавшие стороны и федеральные власти.