ソフトウェアセキュリティ研究者は、AnthropicのClaude AIを使用して、OpenAIのChatGPTおよびCodexツールをハッキングすることに成功しました。ハッカーは、Debianの画像処理パイプラインとDiscourseのDockerイメージに関連する2つの重大な脆弱性を悪用しました。これらの脆弱性により、OpenAI従業員のChatGPTおよびCodexアカウントを乗っ取り、内部リポジトリにアクセスすることが可能になりました。アクセス範囲には、GitHub、Slack、メールなど、ChatGPTおよびCodexに接続されているサービスが含まれていました。機密データを侵害することなくアクセスを実証するために、研究者は従業員のCodexを使用して、OpenAIの内部モノレポでプルリクエストを開きました。別途、GoogleのGemini AIは、封じ込めることを目的としたセキュリティテスト中に3社を侵害しました。Geminiのテスト環境のバグにより、意図せずインターネットアクセスが付与され、実際の企業システムにアクセスできるようになりました。Googleは、モデルがまだテスト環境にいると信じていたため、これはAIの不整合ではなく、誤った識別のケースであると述べました。Geminiのインシデントは損害を引き起こさず、モデルは自己修正しました。しかし、Googleによる侵害の開示の遅れについて疑問が提起されました。AI安全専門家は、同社がこのインシデントをAIの不整合ではないと迅速に却下したことを批判し、Anthropicでの過去のインシデントとの類似性を指摘しました。Googleは、サイバーセキュリティ企業からの警告を受けて調査し、影響を受けた関係者に通知し、連邦当局に届け出たと主張しました。