RSS プロジェクト・ゼロ
フォロー
昼寝から大きな眠りまで:大規模言語モデルを使用して、現実世界のコードの脆弱性を捉える
Big Sleep チームは、広く使われているオープンソースのデータベース エンジン SQLite において、以前知られていなかったスタック バッファーアンダーフローを発見しました。この脆弱性は、Google Project Zero と Google DeepMind の協力によって発見され、10 月初めに開発者に報告されました。この問題は、インデックス型フィールドで特殊な番兵値 -1 が使用されたため、リリース ビルドで潜在的に悪用可能な状況が生じました。この脆弱性は、Big Sleep エージェントによって発見されました。このエージェントは、大規模言語モデルを援助する脆弱性研究のためのフレームワークを使用します。エージェントは、シード コミットを分析し、SQLite について既に存在する知識を適用することでこの脆弱性を発見しました。Big Sleep チームは、この作業が防御的な潜在力が非常に高く、ソフトウェアがリリースされる前に脆弱性を発見するのを助けることができると信じています。