DeepMind은 희소 오토인코더를 사용하여 LLMs 해석에 큰 도약을 이루었습니다.

구글 딥마인드의 새로운 연구는 희소한 오토인코더(SAEs)와 JumpReLU 활성화 기능이 대규모 언어 모델(LLMs)을 해석하는 데 어떻게 도움이 되는지 보여줍니다.