Традиционные механизмы идентификации не были рассчитаны на автономный и непредсказуемый характер ИИ-агентов. Поэтому предприятиям не стоит удивляться, когда они принимают непредсказуемые — или даже разрушительные — решения, такие как удаление всей производственной базы компании. Без надлежащих ограничений эти новые участники будут продолжать сеять хаос в организациях.Не нужно далеко ходить, чтобы найти примеры того, как это происходит в реальном времени. PocketOS недавно сообщил, что агент Cursor удалил свою производственную базу данных и резервные копии во время выполнения обычной задачи в том, что компания считала безопасной тестовой средой. Весь сценарий развернулся всего за 9 секунд, но на его устранение ушли дни.