DeepMind gør et stort spring mod at fortolke LLM'er med sparsomme autoencodere

En ny undersøgelse af Google DeepMind viser, hvordan sparsomme autoencodere (SAEs) med speciel JumpReLU-aktivering kan hjælpe med at fortolke LLM'er.