Dataflow에서 Pause/Resume 및 NVID... 노트

Dataflow에서 Pause/Resume 및 NVIDIA RTX PRO 6000 Blackwell GPU 지원 발표

기업은 효율적인 AI 및 에이전트 워크플로우를 위해 서버리스 플랫폼이 필요하며, 데이터 준비가 주요 과제입니다. Google Cloud의 Dataflow는 분석 및 AI를 위한 배치 및 스트리밍 파이프라인을 지원합니다. 이제 장기 실행 배치 작업의 컴퓨팅 효율성을 개선하고 AI 워크로드의 추론 성능을 향상시키는 상당한 개선이 이루어졌습니다. Dataflow 배치 작업에 대한 Pause/Resume의 일반 공급을 통해 사용자는 마지막 체크포인트부터 실패한 작업을 다시 시작하여 컴퓨팅을 절약하고 생산성을 향상시킬 수 있습니다. 이 기능은 또한 우선순위가 높은 AI 작업을 위해 컴퓨팅 리소스를 동적으로 재할당할 수 있도록 합니다. 또한 Dataflow는 이제 NVIDIA RTX PRO 6000 Blackwell GPU를 탑재한 G4 VM을 지원합니다. 이러한 새로운 GPU는 AI 추론을 위해 메모리와 대역폭 증가를 포함한 상당한 성능 향상을 제공합니다. 이를 통해 Dataflow 작업은 700억 개 이상의 매개변수를 가진 모델을 직접 처리할 수 있습니다. 고객은 이러한 새로운 GPU와 함께 RunInference 및 GPU 지원 자동 확장과 같은 네이티브 Dataflow ML 기능을 활용할 수 있습니다. Pause/Resume과 새로운 GPU는 함께 배치 작업 비용을 최적화하고 까다로운 AI 워크로드를 가속화합니다. 이러한 발전은 고객을 위한 AI 개발 및 배포를 단순화하는 것을 목표로 합니다.
CdXz5zHNQW_B3JFo9TtLc.png