InfoQ 日本語 フォロー Google、TPU上でのKVキャッシュと重み転送のためのTPU Syncをオープンソース化 Google Cloudは、TPU HBM、ホストDRAM、共有ストレージ、データセンターネットワーク間でKVキャッシュブロックとモデルウェイトを移動するネイティブC++ライブラリであるTPU Syncをオープンソース化しました。Daniel Dominguez著 Google Open-Sources TPU Sync for KV Cache and Weight Transfer on TPUs infoq.com InfoQ 日本語 RSS thenote.app