DeepMind maakt een grote stap richting het interpreteren van LLMs met sparse autoencoders

Een nieuw onderzoek door Google DeepMind toont hoe sparse autoencoders (SAEs) met speciale JumpReLU-activatie kunnen helpen bij het interpreteren van LLMs.