混合智能使设备成为企业人工智能架构的一部分。
端点与 AI 战略正在融合,随着 AI 工作负载在具备能力的设备上日益分布式化。IT 领导者必须现在考虑设备决策如何影响未来的 AI 平台。企业 AI 一直聚焦于平台、模型和云服务,但 AI PC 将端点引入为关键的执行环境。不同的 AI 工作负载需要多样化的执行环境,敏感或低延迟关键任务从本地处理中受益。云模型仍适用于大规模或复杂推理任务。混合智能整合本地与云资源,使设备成为 AI 平台的活跃组成部分。代理(Agents)跨越时间运行并访问数据,进一步复杂化了架构决策。这一交叉点影响应用设计、安全性和成本,需要端点、安全和应用团队之间的协作。组织可以在标准化设备的同时,为高需求的 AI 工作负载提供专用配置。现有的基于云的 AI 解决方案可通过本地推理进行扩展,在设备与云之间分布处理。故障与降级策略对于端点和基于云的工作负载都至关重要,影响安全性、隐私和可靠性。代理型应用需要针对文件访问、工具使用及跨环境活动的控制。诸如 Microsoft Execution Containers 和 Microsoft Agent 365 等技术旨在作为企业的一部分管理代理活动。工作负载放置取决于响应时间、隐私、连接性和可用资源等因素。混合运行时可根据实时条件动态将任务路由到适当的本地或云资源。软件开发通过利用云模型解决复杂问题、利用本地模型处理针对性任务来体现这一点。本地执行需要兼容的模型、运行时、应用路径以及足够的系统容量。Windows ML 为在各种硬件资源上运行支持的模型提供了基础。纳入本地推理意味着硬件成为架构的组成部分,影响性能和成本。设备规划应考虑员工角色及潜在的专用本地基础设施。现场检查工作流和 Copilot 通过结合本地与云能力体现了混合智能。本地 AI 工作负载必须在整体设备活动的背景下进行评估。设备制造商正在设计硬件以支持不断演进的 AI 格局,考虑计算能力、内存和功耗。在代表性硬件上测试应用程序对于了解实际性能并做出明智的放置决策至关重要。本地推理的经济性涉及本地计算成本与云推理费用之间的权衡。