従来のアイデンティティメカニズムは、AIエージェントの自律的かつ予測不可能な性質を考慮して構築されていませんでした。そのため、企業が会社の生産基盤全体を削除するような予測不能な、あるいは破壊的な決定を下しても、驚くべきではありません。適切なガードレールがなければ、これらの新しいアクターは組織全体で混乱を引き起こし続けるでしょう。これがリアルタイムで展開されている例を見つけるのに、遠くまで探す必要はありません。PocketOSは最近、Cursorエージェントが、同社が安全なステージング環境だと考えていた場所で、日常的なタスクに取り組んでいる最中に、本番データベースとバックアップを削除したことを共有しました。シナリオ全体はわずか9秒で展開されましたが、解決には数日かかりました。