ChatGPT-4oにおいて、「タイムバンディット」と呼ばれる脱獄脆弱性が発見されました。この脆弱性により、攻撃者は安全対策を回避し、AIに違法または危険なコンテンツの作成を指示することが可能になります。この脆弱性は、検索機能を使用するか、AIに直接指示することで、特定の時代の歴史に関する質問を促すことで発動します。歴史的時代が設定されると、攻撃者はタイムラインの混乱と手順の曖昧さを利用して、安全ガイドラインを回避できます。これにより、ChatGPTが違法なコンテンツを生成する可能性があり、意図的な脅威行為者が悪意のある目的でそれを大規模に利用する可能性があります。この脆弱性は、直接的な指示または検索機能の使用のいずれかの方法で悪用でき、後者の場合はユーザー認証が必要です。テスト中、CERT/CCは脱獄を再現することができましたが、ChatGPTはその指示を削除し、利用規約に違反していると述べました。しかし、ChatGPTはその削除された指示にその後回答し、この行為は複数回繰り返されました。この脱獄は、1800年代または1900年代の期間を使用した場合により成功しました。この脆弱性はOpenAIのセキュリティおよび安全ガイドラインを回避し、攻撃者がフィッシングメールやマルウェアの作成など、悪意のある目的でChatGPTを悪用することを可能にします。OpenAIはその後、この脆弱性を軽減し、安全にモデルを開発し、悪意のある目的で使用されないようにすることに尽力していると述べています。