Набор микротестов TPU с открытым исходным кодом от Google предоставляет разработчикам детальные метрики производительности по компонентам сети, вычислений, HBM, передачи данных с хоста и внимания для проверки реальных возможностей оборудования. Используя эти тесты для построения модели Roofline, инженеры могут точно диагностировать, привязаны ли их рабочие нагрузки машинного обучения к вычислениям, памяти или сети. Эта эмпирическая база напрямую направляет целенаправленные программные оптимизации — такие как настройка ядер, шардинг сетки и рематериализация — для максимизации использования оборудования при развертывании крупномасштабных моделей.