インターネットの拡大とモバイルデバイスは、人間と並んで働く自律型AIエージェントの新時代を切り開きました。これらのAIワークロードはリソース集約的でバースト的な性質を持つため、そのコストとインフラストラクチャの要求を管理することは極めて重要であり、潜在的な利用率低下につながる可能性があります。組織は、エンタープライズアプリケーションとAIアプリケーションの両方に対して予測可能なコストとパフォーマンスを確保するために、インフラストラクチャ投資を最適化するための動的なキャパシティ管理戦略を必要としています。これには、予測可能な需要のためのリソースの確保と、予期せぬ変更への自動応答が含まれます。重要な戦略の1つは、Dynamic Workload Schedulerを使用して計画されたイベントのキャパシティをスケジュールすることです。これは、レイテンシ許容型のバッチジョブのコスト最適化のための「flex-start mode」と、ミッションクリティカルで時間制限のあるイベント中の保証されたキャパシティのための「calendar mode」を提供します。もう1つの重要な側面は、すべてのアプリケーションのフォールバックプランを通じてサービス継続性を維持することです。これには、Google Compute Engine上のコンテナ化されていないワークロード用のマネージドインスタンスグループ（MIG）を使用して、自動化された優先順位付けされたハードウェアフォールバックリストを定義することが含まれ、アプリケーションが代替コンピューティングオプションに自動的に切り替えることができます。コンテナ化されたワークロードの場合、Google Kubernetes Engine（GKE）は、キャパシティ管理ライフサイクル全体を自動化するための適応型コントロールプレーンを提供します。GKEのカスタムComputeClassesは、ゾーンや消費モデルを横断して、さまざまなVMファミリー、サイズ、スケーリングを動的に組み合わせた多次元フォールバックリストの設計を可能にします。GKEは動的なリソース割り当ても提供し、アプリケーションが正確なハードウェアパラメータを定義できるようにすることで、GPUやTPU全体ではなく、必要なハードウェアの「スライス」のみを割り当てることで利用率を最大化し、コストを削減します。インフラストラクチャの制約を克服するには、予測可能な需要のためのリソースの確保と、予測不可能な需要のための自動化の構築という2つのアプローチが必要です。この組み合わせ戦略は、計画されたイベントのための事前スケジュールされたキャパシティを確保すると同時に、手動介入なしにインフラストラクチャが予期せぬ変更に適応できるようにします。90％の企業がエージェントを展開する予定ですが、現在のITセットアップに自信を持っているのは17％にすぎないため、アーキテクチャの柔軟性が最も重要です。これには、特殊なインフラストラクチャだけでなく、実行の非効率性を解決するためのインテリジェントな利用戦略も必要とされます。動的なインフラストラクチャの実装を開始するために、組織は即時のコスト削減のためにワークロードを監査し、単一のVMファミリーまたはゾーンに密接に結合されたアプリケーションを特定し、実行可能な代替ハードウェア形状をマッピングする必要があります。最低支出額をコミットすることも、コミットメント使用割引を通じて大幅に割引された価格を解除できます。最後に、Google Cloudアカウントチームと協力して、カスタマイズされたキャパシティ管理戦略を作成し、自動化されたフォールバックリストを構成することが推奨されます。