PandasAI, eine Python-Bibliothek, die LLMs für die Dateninteraktion verwendet, war anfällig für Prompt-Injection-Angriffe (CVE-2024-12366). Angreifer konnten schädlichen Code über natürlichsprachliche Prompts einschleusen, indem sie Sicherheitsmaßnahmen umgingen. Diese Schwachstelle ermöglichte die willkürliche Ausführung von Code innerhalb des PandasAI-Prozesses. Der Fehler resultiert aus der inhärenten Schwierigkeit, Code und Daten in KI-Agenten zu trennen. Die Ausführung von nicht vertrauenswürdigem Code konnte zu Systemkompromittierungen und weiteren Angriffen auf verbundene Dienste führen. SinaptikAI, der Entwickler, hat dies behoben, indem ein neuer Sicherheitskonfigurationsparameter eingeführt wurde. Benutzer können jetzt zwischen den Sicherheitsstufen Standard, Erweitert und Keine wählen. Eine Sandbox-Umgebung ist auch verfügbar, um die Sicherheit zu erhöhen. Die Schwachstelle wurde von dem NVIDIA AI Red Team entdeckt und gemeldet. Die aktualisierte PandasAI minimiert das Risiko, indem Benutzern ermöglicht wird, geeignete Sicherheitseinstellungen basierend auf ihrer Umgebung auszuwählen.