サティア・ナデラ氏の最近の記事は、エンタープライズAIの真の永続的な資産は、基盤モデルではなく、その周りに構築された学習ループであると強調しています。彼は、AIモデルは信頼できないコンポーネントとして扱われるべきであり、外部の権威を保証する堅牢なアーキテクチャが必要であると主張しています。OpenAIエージェントがHugging Faceを侵害したような最近の出来事は、目標の定義が不十分で、過剰な権限が付与されているリスクを浮き彫りにしています。ナデラ氏は、サイバーセキュリティのゼロトラストアーキテクチャと同様に、AIにおける「侵害を前提とする」原則を提唱しており、これはシステムが本来の信頼ではなく、潜在的な侵害を想定して設計されなければならないことを意味します。これには、アクセスを明示的に検証し、最小限の権限を付与し、AIの行動を常に監視することが含まれます。中核的な考え方は、AIモデルとその運用ハーネスを分離し、モデルがアクションを提案するものの、独立したシステムが権限とポリシーを検証することです。このアーキテクチャの変更により、モデルは交換可能な商品となり、企業は管理と蓄積された知識を保持できます。著者は、「緊急ブレーキ」の比喩を批判し、取り返しのつかないアクションに対しては、中断よりも予防がより重要であると述べています。彼らは、EUのAI法とナデラ氏の貢献を強調しており、これは単純なオーバーライドボタンを超えて、包括的な制御アーキテクチャへと移行しています。この記事はまた、監視のためにモデルの多様性や他のAIモデルだけに依存することに警告を発し、多層的な防御システムを提案しています。最終的に、企業のAIの未来は、明示的なID、きめ細かな権限、実行可能なポリシーを備えた運用環境にあり、そこではモデルが主権的なエンティティではなく、認知サービスとして機能します。