57% предприятий наблюдали, как... Заметка
VentureBeat на русском

57% предприятий наблюдали, как ИИ-агенты уверенно ошибались. Решение — контекстный слой агента, но у кого он есть?

Корпоративные ИИ-агенты часто дают уверенные, но неверные ответы из-за отсутствия или несогласованности бизнес-контекста, что затрагивает 57% организаций. Эта проблема проистекает из повсеместной опоры на извлечение документов для контекста, где приоритет отдается простоте ввода данных, а не точности. Распространенным решением является управляемый контекстный слой — общая модель значений бизнес-данных, на которую агенты могут последовательно ссылаться. В настоящее время 75% предприятий не имеют такого слоя, хотя 58% активно его создают или уже внедрили.Компании, уже столкнувшиеся с такими "уверенно-неправильными" сбоями ИИ, с большей вероятностью внедряют это исправление, в то время как те, кого это не затронуло, проявляют меньшую срочность. Крупные поставщики платформ данных и ИИ разрабатывают различные архитектурные подходы для этого контекстного слоя, однако единого стандарта пока не появилось. Аналитики сходятся во мнении, что агентам требуется управляемый, актуальный и низколатентный контекст, а не просто больше токенов или лучшие модели. Задача заключается в интеграции разрозненных инструментов для извлечения, памяти и контроля доступа, что приводит к операционной сложности.Для предприятий одного лишь извлечения недостаточно для устранения разрыва в контексте; бюджет смещается в сторону семантических контекстных слоев. Рынок фрагментирован, что означает, что интеграция, а не выбор одного поставщика, будет необходима в течение некоторого времени. Решение о внедрении этих контекстных платформ принимается в этом году, в основном компаниями, которые уже столкнулись с неточностями ИИ-агентов. Хотя агенты уже используются, базовая инфраструктура контекста все еще находится в стадии строительства, и поставщики этих решений выбираются сейчас.