vLLM を使用して、2.4兆パラメータのオープンウェイトモデルである Qwen3.8-2.4T-A95B を Amazon SageMaker HyperPod にデプロイする方法を学びます。このウォークスルーでは、クラスターのプロビジョニング、NVFP4 量子化、および組み込みの推論、ツール呼び出し、ネイティブ MTP スペキュレーティブデコーディングを備えた OpenAI 互換エンドポイントについて説明します。