Google выпустила TorchTPU в открытый доступ, предоставив разработчикам PyTorch нативный способ запуска моделей на своих тензорных процессорах. Google также объявила о поддержке TPU в движках обслуживания vLLM и SGLang, фреймворке обучения TorchTitan, Ray и библиотеках Hugging Face. Наибольшую выгоду получат команды, которые по умолчанию пишут свои модели на PyTorch и запускают их на GPU. Google заявляет, что эти рабочие нагрузки теперь переносятся на TPU, ее собственные специализированные ИИ-чипы, с минимальными...