Time-of-Check Time-of-Use-Angr... Notiz

Time-of-Check Time-of-Use-Angriffe gegen LLMs

LLM-gestützte Agenten gewinnen an Popularität, führen aber neue Sicherheitslücken ein, insbesondere TOCTOU-Fehler. TOCTOU-Schwachstellen beinhalten die Validierung des Zustands, gefolgt von einer Modifikation vor der Verwendung, was zu ausnutzbaren Problemen führt. Diese Forschung präsentiert die erste Studie, die sich speziell auf TOCTOU-Schwachstellen in LLM-Agenten konzentriert. Die Autoren stellen TOCTOU-Bench vor, einen Benchmark mit 66 realistischen Benutzeraufgaben, der zur Erkennung von TOCTOU-Schwachstellen entwickelt wurde. Sie adaptierten Erkennungs- und Abhilfetechniken aus der Systemsicherheit für die Anwendung in diesem Kontext. Zu diesen Gegenmaßnahmen gehören Prompt-Rewriting, Zustandsintegritätsüberwachung und Tool-Fusing-Strategien. Automatisierte Erkennungsmethoden erreichen eine Erkennungsgenauigkeit von bis zu 25 % in agentischen Arbeitsabläufen. Die Abhilfestrategien reduzieren die anfällige Planerstellung und das Angriffsfenster erheblich. Die Kombination aller drei Methoden verringerte das Auftreten von TOCTOU-Schwachstellen in ausgeführten Trajektorien. Die Studie betont die einzigartigen Herausforderungen bei der Absicherung agentischer Arbeitsabläufe gegen TOCTOU-Angriffe. Diese Arbeit zielt darauf ab, neue Forschungswege in den Bereichen KI-Sicherheit und Systemsicherheit zu eröffnen.