В индустрии корпоративного ИИ существует значительный разрыв между пилотным внедрением ИИ-агентов и их развертыванием в производственной среде. Брайан Силверторн из Amazon объясняет это ошибочным подходом к оценке надежности ИИ-агентов. Он предлагает разбить надежность на четыре аспекта: последовательность, устойчивость, предсказуемость и безопасность. Текущие оценки часто не отражают сбои в реальных условиях, что подтверждается примером агента, который периодически считывал неверные серийные номера из-за незначительных изменений. Следовательно, строгость измерений должна соответствовать значимости применения.Лаборатория AGI Amazon управляет ИИ-агентами как "стажерами", признавая их мощь и потенциал ошибок. Это требует управленческих навыков, сосредоточенных на снижении рисков, резервном копировании и возможностях отмены действий. Они принимают периодические ошибки в обмен на более высокую скорость исследований. Силверторн уточняет, что полностью автономное самосовершенствование ИИ по-прежнему остается далекой целью. ИИ-агенты будут интегрироваться с различными инструментами для выполнения сложных рабочих процессов. Ключ для предприятий, чтобы выйти за рамки пилотных этапов, заключается в приоритете последовательной и корректной работы над единичными впечатляющими достижениями. В конечном итоге, успешное развертывание ИИ-агентов зависит от эффективного управления, а не только от самих продвинутых агентов.