DeepMindは、疎密度自動符号化器でLLMの解釈に向けて大きな飛躍を遂げた

Google DeepMindが行った新しい研究では、Sparse Autoencoders (SAEs) と特殊なJumpReLUアクティベーションがLLMsの解釈を助ける方法を示しています。