UiPath는 복잡한 비즈니스 프로세스를 조정하기 위해 추론하고 의사 결정을 내리는 자율 에이전트를 배포하며 에이전트 AI로 전환하고 있습니다. 이러한 전환은 특히 대기업의 경우 상당한 컴퓨팅 성능과 안정적인 인프라를 필요로 합니다. 수백 개의 GPU를 효율적으로 조정하는 것은 비용이나 지연 시간을 늘리지 않고 학습과 추론의 균형을 맞추는 글로벌 AI 플랫폼에 매우 중요합니다. UiPath는 Google Cloud에서 인프라를 재설계하여 지능형 문서 처리를 위해 공유 GPU 플릿으로 전환했습니다. 이제 학습에는 A3 VM 인스턴스를, 추론에는 G4 VM 인스턴스를 사용하여 급증하는 워크로드를 처리하고 예측 가능한 비용을 보장합니다. Google Cloud와의 파트너십은 UiPath의 야심찬 에이전트 AI 이니셔티브에 필요한 확장성, 유연성 및 전문 AI 기능을 제공합니다. 온디맨드로 GPU를 프로비저닝하는 회사의 이전 접근 방식은 급증하는 워크로드, 고급 칩의 공급 병목 현상 및 운영 오버헤드로 인해 관리 불가능해졌습니다. GPU를 공유 전략 리소스로 취급함으로써 UiPath의 ML Services 플랫폼은 작업을 우선순위 지정하고 워크플로 전반의 수요를 조정하여 활용도를 최적화합니다. 하드웨어, 소프트웨어 및 유연한 소비 모델을 통합하는 Google Cloud의 AI Hypercomputer 아키텍처는 UiPath의 성장하는 규모를 더욱 지원합니다. UiPath는 Google Kubernetes Engine과 Google Cloud의 Dynamic Workload Scheduler(DWS)를 활용하여 GPU 용량을 미리 확보하여 사전 계획을 가능하게 했습니다. 이제 학습에는 A3 VM 인스턴스를, 추론에는 비용 효율적인 G4 VM 인스턴스를 사용하여 성능과 가격을 최적화합니다. 이 새로운 인프라를 통해 UiPath는 Omega Healthcare 및 Thermo Fisher Scientific에서 사용하는 것과 같은 고급 모델을 프로덕션에 적용하여 놀라운 정확도와 처리 효율성을 달성할 수 있습니다. 주요 학습 내용은 용량 분리, 컴퓨팅 미리 예약, 다양한 워크로드에 대한 실리콘 크기 조정입니다.