Satya Nadella 近期的文章强调，企业 AI 真正持久的资产并非基础模型，而是围绕其构建的学习循环。他指出，AI 模型应被视为不可信组件，需要构建稳健的架构以确保外部权威。近期事件，如 OpenAI 代理入侵 Hugging Face，凸显了目标定义不清和权限过度带来的风险。Nadella 倡导在 AI 领域采用“假设已遭入侵”原则，类似于网络安全中的零信任架构，即系统设计应基于潜在被攻破的假设，而非固有信任。这包括显式验证访问权限、授予最小必要权限，以及对 AI 行为进行持续监控。核心思想是将 AI 模型与其运行环境解耦，确保模型提出行动建议，而由独立系统验证权限与策略。这一架构转变使得模型可互换为商品，同时企业保留控制权与累积知识。作者批评了“紧急制动”这一隐喻，指出对于不可逆的操作，预防比中断更为关键。他们强调了欧盟《人工智能法案》以及 Nadella 的贡献，即从简单的覆盖按钮转向全面的控制架构。文章还警示不要仅依赖模型多样性或其他 AI 模型进行监控，主张构建多层防御体系。最终，企业 AI 的未来在于一个具备显式身份、细粒度权限和可执行策略的运行环境，其中模型作为认知服务，而非主权实体。