Уязвимости кода ИИ, которые ра... Заметка

Уязвимости кода ИИ, которые растут вместе с вашим приложением

Theori создала 28 приложений с помощью ИИ-агентов для написания кода и просканировала каждое из них через свою платформу пентестинга. Пять моделей занимались разработкой, разделенные между Anthropic и OpenAI, для приложений, написанных по спецификации, собранных из случайного запроса и переписанных из устаревшей кодовой базы PHP. Команда ожидала повсеместных уязвимостей. SQL-инъекции, межсайтовый скриптинг — ошибки, которыми заполнены учебники по безопасности. Они почти не проявились. Модели использовали подготовленные выражения и ORM на...