Ваш инструмент SAST слеп к самой большой угрозе ИИ. Почему нам нужно сканировать данные, а не только код

Проблема: Традиционные инструменты SAST сканируют только код приложения, оставляя данные, которые использует ваш ИИ (документы RAG, загруженные модели, наборы данных), совершенно непроверенными. Угрозы: Злоумышленники используют это слепое пятно, применяя скрытые инъекции подсказок, спрятанные в PDF-файлах (через CSS/HTML), и полезные нагрузки удаленного выполнения кода (RCE), встроенные в файлы Pickle (.pkl). Решение: Мы должны "сдвинуться влево" для артефактов ИИ. Используя инструменты с открытым исходным кодом, такие как Veritensor, вы можете сканировать необработанные двоичные файлы и обернуть ваши загрузчики LangChain, чтобы физически блокировать отравленные данные, прежде чем они попадут в вашу векторную базу данных или среду выполнения.