InfoQ 中文 关注 Google 开源了 TPU Sync,用于在 TPU 上实现 KV Cache 和权重的传输 Google Cloud 开源了 TPU Sync,这是一个原生 C++ 库,用于在 TPU HBM、主机 DRAM、共享存储以及数据中心网络之间移动 KV 缓存块和模型权重。作者:Daniel Dominguez Google Open-Sources TPU Sync for KV Cache and Weight Transfer on TPUs infoq.com InfoQ 中文 RSS thenote.app