В этом примере атаки на целостность ввода против системы ИИ исследователи смогли обмануть инструменты AIOps:AIOps относится к использованию агентов на основе больших языковых моделей (LLM) для сбора и анализа телеметрии приложений, включая системные журналы, метрики производительности, трассировки и оповещения, для обнаружения проблем и затем предложения или выполнения корректирующих действий. Компании, такие как Cisco, развернули AIOps в интерфейсе общения, который администраторы могут использовать для запроса информации о производительности системы. Некоторые инструменты AIOps могут отвечать на такие запросы, автоматически реализуя исправления или предлагая скрипты, которые могут решить проблемы...