Microsoft Teams Blog articles на русском
Подписаться
Гибридный интеллект делает устройство частью корпоративной архитектуры искусственного интеллекта.
Стратегии периферийных вычислений и ИИ сливаются, поскольку рабочие нагрузки ИИ становятся все более распределенными по производительным устройствам. Руководители ИТ-отделов теперь должны учитывать, как решения по выбору устройств влияют на будущие платформы ИИ. Корпоративный ИИ был сосредоточен на платформах, моделях и облачных сервисах, но ИИ-ПК выводят конечные точки на передний план как критически важные среды выполнения. Различные рабочие нагрузки ИИ требуют различных сред выполнения, при этом чувствительные или критичные к задержкам задачи выигрывают от локальной обработки. Облачные модели остаются идеальными для крупномасштабных или сложных задач рассуждения. Гибридный интеллект интегрирует локальные и облачные ресурсы, делая устройство активной частью платформы ИИ. Агенты, работающие в течение длительного времени и имеющие доступ к данным, еще больше усложняют архитектурные решения. Это пересечение влияет на дизайн приложений, безопасность и затраты, требуя сотрудничества между командами, отвечающими за конечные точки, безопасность и приложения. Организации могут стандартизировать устройства, предлагая при этом специализированные конфигурации для требовательных рабочих нагрузок ИИ. Существующие облачные решения ИИ могут быть расширены за счет локального вывода, распределяя обработку между устройством и облаком. Стратегии отказов и резервного копирования имеют решающее значение как для рабочих нагрузок на конечных точках, так и для облачных рабочих нагрузок, влияя на безопасность, конфиденциальность и надежность. Агентные приложения требуют контроля доступа к файлам, использования инструментов и действий в различных средах. Такие технологии, как Microsoft Execution Containers и Microsoft Agent 365, направлены на управление активностью агентов в рамках предприятия. Размещение рабочих нагрузок зависит от таких факторов, как время отклика, конфиденциальность, подключение и доступные ресурсы. Гибридные среды выполнения могут динамически направлять задачи на соответствующие локальные или облачные ресурсы в зависимости от условий в реальном времени. Разработка программного обеспечения демонстрирует это, используя облачные модели для сложных проблем и локальные модели для целевых задач. Локальное выполнение требует совместимых моделей, сред выполнения, путей приложений и достаточной емкости системы. Windows ML обеспечивает основу для запуска поддерживаемых моделей на различных аппаратных ресурсах. Включение локального вывода означает, что аппаратное обеспечение становится неотъемлемой частью архитектуры, влияя на производительность и затраты. Планирование устройств должно учитывать роли сотрудников и потенциальную выделенную локальную инфраструктуру. Рабочие процессы инспекции на местах и Copilot иллюстрируют гибридный интеллект, сочетая локальные и облачные возможности. Локальные рабочие нагрузки ИИ должны оцениваться в контексте общей активности устройства. Производители устройств разрабатывают аппаратное обеспечение для поддержки развивающихся ландшафтов ИИ, учитывая вычислительную мощность, ОЗУ и энергопотребление. Тестирование приложений на репрезентативном оборудовании имеет решающее значение для понимания реальной производительности и принятия обоснованных решений о размещении. Экономика локального вывода включает компромиссы между затратами на локальные вычисления и расходами на облачный вывод.