RSS Schneier sur la sécurité
Suivre
Attaques de type "Time-of-Check Time-of-Use" contre les LLM
Les agents basés sur les LLM gagnent en popularité mais introduisent de nouvelles vulnérabilités de sécurité, en particulier les failles TOCTOU. Les vulnérabilités TOCTOU impliquent la validation de l'état suivie d'une modification avant utilisation, entraînant des problèmes exploitables. Cette recherche présente la première étude axée spécifiquement sur les vulnérabilités TOCTOU au sein des agents LLM. Les auteurs introduisent TOCTOU-Bench, un benchmark comprenant 66 tâches utilisateur réalistes conçues pour détecter les vulnérabilités TOCTOU. Ils ont adapté les techniques de détection et d'atténuation de la sécurité des systèmes pour une application dans ce contexte. Ces contre-mesures comprennent la réécriture des invites, la surveillance de l'intégrité de l'état et les stratégies de fusion d'outils. Les méthodes de détection automatisée atteignent jusqu'à 25 % de précision de détection dans les flux de travail des agents. Les stratégies d'atténuation réduisent considérablement la génération de plans vulnérables et la fenêtre d'attaque. La combinaison des trois méthodes a diminué l'incidence des vulnérabilités TOCTOU dans les trajectoires exécutées. L'étude souligne les défis uniques de la sécurisation des flux de travail des agents contre les attaques TOCTOU. Ce travail vise à ouvrir de nouvelles voies de recherche en matière de sécurité de l'IA et de sécurité des systèmes.