DeepMind faz grande salto em direção à interpretação de LLMs com autoencoders esparsos

Uma nova pesquisa da Google DeepMind mostra como autoencoders esparsos (SAEs) com ativação JumpReLU especial podem ajudar a interpretar LLMs.