在 Dataflow 中宣布支持暂停/恢复功能以及 NVID... 笔记

在 Dataflow 中宣布支持暂停/恢复功能以及 NVIDIA RTX PRO 6000 Blackwell GPU

企业需要无服务器平台以实现高效的 AI 和代理工作流,其中数据准备是关键挑战。Google Cloud 上的 Dataflow 支持用于分析和 AI 的批处理与流处理管道。此次重大更新针对长运行批处理作业的计算效率进行了显著优化,并提升了 AI 工作负载的推理能力。Dataflow 批处理作业 Pause/Resume 功能的正式发布,允许用户从最后一个检查点重新启动失败的作业,从而节省计算资源并提高生产力。该功能还支持为更高优先级的 AI 任务动态重新分配计算资源。此外,Dataflow 现已支持由 NVIDIA RTX PRO 6000 Blackwell GPU 驱动的 G4 虚拟机。这些新 GPU 为 AI 推理带来了显著的性能提升,包括更大的内存和更高的带宽,使 Dataflow 作业能够直接处理超过 700 亿参数的模型。客户可以利用原生 Dataflow ML 功能(如 RunInference)以及结合这些新 GPU 的 GPU 启用自动扩展。Pause/Resume 功能与新 GPU 的结合,优化了批处理作业成本并加速了高需求的 AI 工作负载。这些进展旨在简化客户在 AI 开发和部署方面的流程。
CdXz5zHNQW_B3JFo9TtLc.png