Гемма Скоуп из DeepMind заглядывает под капот больших языковых моделей

Google DeepMind выпустила Gemma Scope, серию разреженных автоэнкодеров (SAEs), которые помогают интерпретировать модели Gemma 2.