VentureBeat на русском
Подписаться
Агенты думают в миллисекундах, устаревшая инфраструктура — нет. LinkedIn, Walmart и Zendesk рассказали, как они сократили этот разрыв на VB Transform 2026.
ИИ-агенты замедляются не самими моделями, а устаревшей инфраструктурой. К такому выводу пришли руководители LinkedIn, Walmart и Zendesk на конференции VB Transform 2026. Их опыт показал, что корпоративная инфраструктура, созданная для человеческих рабочих процессов, с трудом справляется со скоростью ИИ-агентов.В LinkedIn подготовка Kubernetes была слишком медленной, что потребовало перехода к предварительно подготовленным контейнерам. Вторая проблема заключалась в том, что большие языковые модели (LLM) оценивали другие LLM, что приводило к галлюцинациям. LinkedIn решил эту проблему, автоматизировав большую часть рабочего процесса и используя LLM только для рассуждений.Walmart столкнулся с узким местом из-за огромного внутреннего спроса на агентов, что привело к дублированию. Их решение заключалось в создании системы управления для эффективного управления и развертывания агентов. Zendesk столкнулся с проблемами из-за огромного объема данных о разговорах с клиентами, что потребовало инвестиций в надежные конвейеры данных.Все три компании подчеркнули важность владения собственной ИИ-инфраструктурой, где это возможно, полагаясь на внешних поставщиков только для специализированных передовых работ. LinkedIn разработал шлюз ИИ и подсистему памяти, не зависящую от моделей. Walmart создал внутренний шлюз для обеспечения независимости от поставщиков для различных типов рабочих процессов.Их рекомендации включают ранние инвестиции в системы оценки, владение инструментами для агентов с самого начала и создание инфраструктуры для независимости от моделей и контекста. Такой подход обеспечивает гибкость и позволяет компаниям адаптироваться к будущим достижениям в области ИИ. В конечном итоге, основное внимание должно быть уделено адаптации инфраструктуры для эффективного размещения возможностей ИИ-агентов.