AWS 엔지니어들이 Amazon SageMaker AI에서 융합된 Mixture-of-Experts(MoE) 모델을 위한 커널 최적화를 공유합니다: WGMMA 활용을 위한 Swap-AB, FP8 양자화를 위한 Triton 백엔드 라우팅, 그리고 Triton JIT 재컴파일 제거. 이들은 H200 GPU에서 최대 10% 더 높은 처리량과 최대 9% 더 빠른 Time to First Token을 제공합니다.