Saboter les systèmes AIOps par... Note

Saboter les systèmes AIOps par des données d'entrée empoisonnées

Dans cette attaque d'intégrité d'entrée contre un système d'IA, les chercheurs ont réussi à tromper les outils AIOps :AIOps fait référence à l'utilisation d'agents basés sur des modèles de langage large (LLM) pour collecter et analyser les données de télémétrie d'application, notamment les journaux de système, les métriques de performance, les traces et les alertes, pour détecter les problèmes et ensuite suggérer ou mettre en œuvre des actions correctives. Des entreprises comme Cisco ont déployé AIOps dans une interface conversationnelle que les administrateurs peuvent utiliser pour demander des informations sur la performance du système. Certains outils AIOps peuvent répondre à ces requêtes en mettant en œuvre automatiquement des corrections, ou en suggérant des scripts qui peuvent résoudre les problèmes...