Du moment de repos à la grande... Note

Du moment de repos à la grande nuit : Utilisation de grands modèles de langage pour détecter les vulnérabilités dans le code du monde réel

L'équipe de Big Sleep a découvert une vulnérabilité stack buffer underflow exploitable inconnue jusqu'alors dans SQLite, un moteur de base de données open-source largement utilisé. La vulnérabilité a été trouvée grâce à une collaboration entre Google Project Zero et Google DeepMind, et a été signalée aux développeurs au début d'octobre. Le problème était causé par une valeur sentinel spéciale -1 utilisée dans un champ de type index, ce qui a conduit à une condition potentiellement exploitable dans une version de release. La vulnérabilité a été découverte par l'agent Big Sleep, qui utilise un cadre pour la recherche de vulnérabilités assistée par un modèle de langage de grande taille. L'agent a pu trouver la vulnérabilité en analysant un commit seed et en appliquant des connaissances préexistantes sur SQLite. L'équipe de Big Sleep estime que ce travail a un potentiel défensif considérable, car il peut aider à trouver des vulnérabilités dans les logiciels avant même qu'ils ne soient publiés.