RSS Проект Ноль
Подписаться
От дневного сна до глубокого сна: Использование больших языковых моделей для выявления уязвимостей в реальном коде
Команда The Big Sleep обнаружила ранее неизвестную уязвимость, связанную с переполнением стека в SQLite, широко используемом открытом исходном коде базы данных. Уязвимость была обнаружена в результате сотрудничества между Google Project Zero и Google DeepMind и была сообщена разработчикам в начале октября. Причина проблемы заключалась в специальном значении-сentinel -1, использованном в поле типа индекса, что привело к потенциально эксплуатируемому состоянию в релизной сборке. Уязвимость была обнаружена агентом The Big Sleep, который использует фреймворк для исследования уязвимостей с помощью больших языковых моделей. Агент смог найти уязвимость, проанализировав начальный коммит и применив существующие знания о SQLite. Команда The Big Sleep считает, что эта работа имеет огромный оборонительный потенциал, поскольку она может помочь обнаружить уязвимости в программном обеспечении до их выпуска.