Hugging Faceは、自律型AIエージェントが週末の間、検知されることなく本番インフラに侵入するという重大な侵害を経験しました。攻撃者は、データ処理パイプラインの脆弱性を悪用した悪意のあるデータセットを通じてアクセス権を取得しました。誤用を防ぐことを目的とした商用AIモデルは、フォレンジッククエリをライブ攻撃と見なしたため、インシデント対応チームが攻撃データを分析するのを妨げました。これにより、インシデント対応チームは当初、これらの高度なツールを利用することができませんでした。自律型エージェントはシステム間を横断的に移動し、認証情報を収集し、弱いワーカーからノードへの権限境界を悪用しました。敵対者はAI搭載ツールをますます使用しており、このような攻撃は劇的に増加し、迅速な侵入を伴っています。Hugging Faceは最終的に、内部展開されたオープンウェイトAIモデルであるGLM 5.2に依存して、安全ブロックをトリガーすることなくフォレンジック分析を実施しました。セキュリティ専門家は、AIセキュリティツールにおける認証された信頼の必要性を強調しており、モデルは、何が尋ねられているかだけでなく、誰が尋ねており、なぜ尋ねているのかを理解する必要があります。インシデント対応計画は、重要なイベント中に商用AI APIが利用できなくなる可能性を考慮する必要があります。このインシデントは、攻撃者が強力で検閲されていないAIツールを使用できる一方で、防御者は安全ポリシーとガバナンスによって制約されるという新しい非対称性を浮き彫りにしています。組織は、AIを単一の依存関係ではなく、回復力のあるセキュリティ機能として設計する必要があります。