DeepMind da un gran salto hacia la interpretación de LLMs con autoencoders dispersos

Una nueva investigación de Google DeepMind muestra cómo los autoencoders esparsos (SAEs) con la activación especial JumpReLU pueden ayudar a interpretar LLMs.