Библиотека Python PandasAI, использующая языковые модели (LLMs) для взаимодействия с данными, была уязвима к атакам инъекции запросов (CVE-2024-12366). Атакующие могли вводить вредоносный код через естественные языковые запросы, обходя меры безопасности. Это уязвимость позволяла выполнение произвольного кода в процессе PandasAI. Ошибка возникла из-за intrinsic трудности разделения кода и данных в агентах ИИ. Выполнение не доверенного кода могло привести к компрометации системы и дальнейшим атакам на связанные сервисы. Разработчик SinaptikAI устранил это, введя новый параметр конфигурации безопасности. Теперь пользователи могут выбрать между уровнями безопасности Standard, Advanced и None. Также доступна среда песочницы для усиления безопасности. Уязвимость была обнаружена и сообщена командой NVIDIA AI Red Team. Обновленный PandasAI уменьшает риск, позволяя пользователям выбирать соответствующие настройки безопасности в зависимости от их среды.