AWS Machine Learning Blog 中文 关注 SageMaker HyperPod 上 LLM 推理的解耦预填充与解码 在本文中，我们展示了如何使用 HyperPod 推理算子，在 Amazon SageMaker HyperPod 上实现基于 vLLM 的 DPD。 Disaggregated prefill and decode for LLM inference on SageMaker HyperPod aws.amazon.com
