Большинство ИИ-агентов, представленных в интернете, являются лишь демонстрациями, которые не доходят до стадии производства из-за нерешенных критических инженерных проблем. Настоящая сложность заключается не в вызове ИИ-моделей, а в предотвращении вредоносных действий агентов. Выпуск ИИ-агента требует большего, чем просто чат-интерфейс; он требует надежных механизмов контроля качества, процессов одобрения человеком и гибкости поставщика моделей. Автор разработал небольшой открытый фреймворк для решения этих проблем.Механизм контроля качества гарантирует, что выходные данные агента соответствуют заранее установленному стандарту перед выполнением. Механизм одобрения имеет решающее значение для авторизации значительных действий, таких как финансовые транзакции, предотвращая несанкционированные изменения. Независимый от модели дизайн позволяет легко переключаться между поставщиками ИИ, избегая привязки к поставщику и управляя затратами. Бизнес-процессы должны моделироваться как явные конечные автоматы, а не как неограниченные циклы чата, для лучшего контроля.Фреймворк интегрирует эти компоненты, демонстрируя готовый к производству рабочий процесс с минимальным количеством кода. Такой подход ставит во главу угла безопасность и надежность, отличая функциональные системы от простых демонстраций. Создание этих защитных механизмов в первую очередь необходимо для разработки ИИ-агентов, которым бизнес может доверять. Бизнес часто желает автономии с контролем, что обеспечивает этот структурированный подход. Автор, имеющий опыт работы в Microsoft, предлагает эту основу для помощи разработчикам.