在 TPU 上运行 Ray,第 1 部分:基础知识 笔记

在 TPU 上运行 Ray,第 1 部分:基础知识

Ray 2.55 正式引入对 Google Cloud TPU 的一等公民支持,使开发者能够使用熟悉的 Ray 任务与 Actor API 在 Google 加速器上运行分布式 Python 工作负载。为满足在多主机 TPU“切片”通过片间互连(Inter-Chip Interconnect, ICI)保持连接所需的严格网络要求,GKE 上的 KubeRay Operator 会自动配置并标记底层硬件布局。Ray Core 利用这些标记,通过其 slice_placement_group() 原语原子性地预留完整切片,使开发者只需声明硬件拓扑(如"4x4"),即可通过 KubeRay、Ray Train 或 Ray Serve 部署作业,而无需编写自定义放置代码。