RSS Блог "След бит"
Подписаться
Полевые отчёты от Patch the Planet
"Patch the Planet" - это продолжающееся сотрудничество между Trail of Bits и OpenAI, целью которого является решение проблемы перегруженности сопровождающих открытого исходного кода сообщениями об ошибках, сгенерированных передовыми моделями, такими как GPT-5.5-Cyber. Инициатива предполагает использование последних моделей OpenAI для выявления ошибок безопасности в реальных базах кода и работу с сопровождающими для исправления этих ошибок. Недавний отчет с поля демонстрирует возможности GPT-5.5-Cyber, который создал пользовательский фаззинг-инструментарий для библиотеки zlib всего за один день. Модель смогла найти ошибки, которые потребовали бы у опытного исследователя безопасности недель, чтобы обнаружить, и она сделала это без указаний, как их найти. Способность модели создавать инструментарий фаззинга и динамически тестировать код позволила ей выявить ошибки, которые были бы трудно обнаружить с помощью статического обзора. Отчет подчеркивает важность опережения проблемы сообщений об ошибках и поиска способов уменьшить нагрузку на сопровождающих. Инициатива будет продолжать предоставлять обновления и рекомендации по возможностям моделей и отраслевым рекомендациям. Цель "Patch the Planet" - найти ошибки и исправить их до того, как злоумышленники смогут их использовать, и инициатива работает над созданием индивидуального инструментария для сопровождающих, чтобы помочь им управлять наплывом сообщений об ошибках. Сотрудничество между Trail of Bits и OpenAI имеет решающее значение для решения проблемы перегруженности сопровождающих открытого исходного кода сообщениями об ошибках и имеет потенциал оказать существенное влияние на безопасность программного обеспечения с открытым исходным кодом. В целом, отчет с поля демонстрирует потенциал передовых моделей, таких как GPT-5.5-Cyber, революционизировать область исследований безопасности и подчеркивает необходимость для сопровождающих открытого исходного кода быть активными в решении проблемы сообщений об ошибках.