Gemma Scope de DeepMind jette un coup d'œil sous le capot des grands modèles de langage

Google DeepMind a publié Gemma Scope, une série d'auto-encodeurs parcimonieux (SAE) qui aident à interpréter les modèles Gemma 2.