De la hora de dormir a un sueñ... Nota

De la hora de dormir a un sueño profundo: usando modelos de lenguaje grande para detectar vulnerabilidades en código real del mundo

El equipo de The Big Sleep ha descubierto una vulnerabilidad explotable de buffer de pila no conocida anteriormente en SQLite, un motor de base de datos de código abierto ampliamente utilizado. La vulnerabilidad fue encontrada usando una colaboración entre Google Project Zero y Google DeepMind, y se notificó a los desarrolladores a principios de octubre. El problema se debió a un valor sentinel especial -1 utilizado en un campo de tipo índice, lo que llevó a una condición potencialmente explotable en una compilación de lanzamiento. La vulnerabilidad fue descubierta por el agente Big Sleep, que utiliza un marco de trabajo para la investigación de vulnerabilidades asistida por modelos de lenguaje de gran tamaño. El agente pudo encontrar la vulnerabilidad analizando un commit semilla y aplicando conocimientos previos sobre SQLite. El equipo de The Big Sleep cree que este trabajo tiene un tremendo potencial defensivo, ya que puede ayudar a encontrar vulnerabilidades en el software antes de que se lancen.