Amazon SageMaker AIは、年央までに2つのデプロイメントパスで13件の推論ローンチを実施しました。これらは、フルマネージドエンドポイントとAmazon SageMaker HyperPod Inferenceです。この記事では、推論レコメンデーション、キャパシティアウェアインスタンスプール、ティアードKVキャッシュ、ディスアグリゲートプリフィルおよびデコードまで、各ローンチをレビューします。