InfoQ 한국어
팔로우
Microsoft, 마이아(Maia)를 멀티기가와트 추론에 투입, 효율성 지표에 의문 제기
Microsoft는 2027년부터 Maia 가속기 제품군을 멀티 기가와트 규모로 확장하여 자체 제품의 주요 추론 시스템으로 만들 것입니다. Maia 300은 스케일업과 스케일아웃을 하나의 이더넷 패브릭으로 통합하고, KV 상태를 프리필 및 디코드 워커 간에 이동할 때 이더넷 패브릭을 벗어나지 않도록 합니다. 실무자들은 발표를 주도하는 토큰당 와트(tokens-per-watt) 주장에 의문을 제기했습니다. Steef-Jan Wiggers 작성