TPUでRayを実行する、第1部:基礎編 ノート

TPUでRayを実行する、第1部:基礎編

Ray 2.55 は、Google Cloud TPU の公式なファーストクラスサポートを導入し、開発者が使い慣れた Ray のタスクおよびアクター API を使用して、Google のアクセラレータ上で分散 Python ワークロードを実行できるようになります。マルチホスト TPU "スライス" をチップ間相互接続 (ICI) を介して連携させるという厳格なネットワーク要件を処理するため、GKE 上の KubeRay Operator は、基盤となるハードウェアレイアウトを自動的にプロビジョニングおよびラベル付けします。Ray Core は、このラベルを slice_placement_group() プリミティブ経由で利用し、完全なスライスをアトミックに予約します。これにより、開発者はカスタム配置コードを書くことなく、ハードウェアトポロジー(例:「4x4」)を宣言するだけで、KubeRay、Ray Train、または Ray Serve を介してジョブをデプロイできます。