В этом интервью для Help Net Security Гураб Басу, глобальный руководитель отдела инжиниринга в meshIQ, обсуждает управление в системах ИИ-агентов. Он утверждает, что инструкций, записанных в промпте, недостаточно для контроля действий агента, поскольку агенты могут менять свой собственный путь в процессе работы. Реальный контроль означает проверку предлагаемых действий перед их внедрением в производственные системы, например, приостановку крупного возврата средств для одобрения человеком. Он также затрагивает вопрос о том, что ломается, когда…