UiPathは、自律型エージェントを展開し、複雑なビジネスプロセスをオーケストレーションするために推論と意思決定を行うエージェンティックAIへと移行しています。この移行には、特に大企業にとって、かなりの計算能力と信頼性の高いインフラストラクチャが必要です。グローバルAIプラットフォームにとって、コストやレイテンシを増加させることなく、トレーニングと推論のバランスを取りながら、数百のGPUを効率的にオーケストレーションすることが不可欠です。UiPathは、インテリジェントドキュメント処理のために共有GPUフリートに移行し、Google Cloud上にインフラストラクチャを再構築しました。現在、トレーニングにはA3 VMインスタンスを、推論にはG4 VMインスタンスを使用しており、スパイク状のワークロードに対応し、予測可能なコストを確保しています。Google Cloudとのこのパートナーシップは、UiPathの野心的なエージェンティックAIイニシアチブに必要なスケーラビリティ、柔軟性、および専門的なAI機能を提供します。以前のオンデマンドでのGPUプロビジョニングというアプローチは、スパイク状のワークロード、ハイエンドチップの供給ボトルネック、および運用オーバーヘッドにより、管理不能になっていました。GPUを共有された戦略的リソースとして扱うことで、UiPathのML Servicesプラットフォームは、ワークフロー全体で作業を優先し、需要のバランスを取ることで、利用率を最適化します。ハードウェア、ソフトウェア、および柔軟な消費モデルを統合したGoogle CloudのAI Hypercomputerアーキテクチャは、UiPathの成長する規模をさらにサポートします。UiPathは、Google Kubernetes EngineとGoogle CloudのDynamic Workload Scheduler（DWS）を活用して、GPU容量を事前に確保し、プロアクティブな計画を可能にしました。現在、トレーニングにはA3 VMインスタンスを、推論にはコスト効率の高いG4 VMインスタンスを使用し、パフォーマンスと価格を最適化しています。この新しいインフラストラクチャにより、UiPathはOmega HealthcareやThermo Fisher Scientificによって使用されているような高度なモデルを本番環境に投入し、驚異的な精度と処理効率を達成できるようになります。学んだ主な教訓には、容量の分離、コンピューティングの事前スケジューリング、およびワークロードごとに適切なシリコンのサイジングが含まれます。