RSS Планета Python
Подписаться
Сет Майкл Ларсон: Являются ли небезопасные автодополнения кода уязвимостью?
Плагин для PyCharm под названием "Full Line Completion" использует локальную модель глубокого обучения для предложения целых строк кода. Автор протестировал эту функцию и обнаружил, что она предлагала небезопасные фрагменты кода. Изначально плагин предлагал отключить предупреждения о небезопасных запросах при использовании urllib3. Затем он предложил отключить проверку сертификатов, что подвергло бы приложения атакам типа "человек посередине". Автор сообщил об этом поведении в JetBrains, которые сочли это не "прямой уязвимостью безопасности". Однако JetBrains попросили автора не публиковать отчет, ссылаясь на свою Политику скоординированного раскрытия информации. После 90-дневного периода ожидания автор обнаружил, что поведение не изменилось в более новой версии плагина. Автор считает, что подобные проблемы существуют в различных моделях генерации кода и сами по себе не являются уязвимостью безопасности, заслуживающей CVE. Тем не менее, они утверждают, что устранение этих небезопасных предложений у источника имеет решающее значение для предотвращения случайного принятия пользователями уязвимого кода. Автор ищет мнения сообщества по этому классу проблем с моделями генерации кода.