この投稿では、Amazon SageMaker の新しいスティッキー ルーティング機能が、多様なモデルを提供する際に超低遅延を実現し、エンドユーザー体験を向上させる方法を説明しました。
aws.amazon.com
Build ultra-low latency multimodal generative AI applications using sticky session routing in Amazon SageMaker
Create attached notes ...