Google은 TorchTPU를 오픈 소스로 공개하여 PyTorch 개발자들이 회사의 Tensor Processing Units에서 모델을 실행할 수 있는 네이티브 방법을 제공했습니다. Google은 또한 vLLM 및 SGLang 서빙 엔진, TorchTitan 학습 프레임워크, Ray, Hugging Face의 라이브러리에서 TPU 지원을 발표했습니다. 기본적으로 GPU에서 모델을 실행하는 PyTorch로 모델을 작성하는 팀이 가장 큰 이점을 얻을 수 있습니다. Google은 이러한 워크로드가 이제 자체 AI 칩인 TPU로 최소한의 …