RSS AWS 架构博客 关注 在 Amazon EKS 上使用 vLLM 深度学习容器部署 LLM 在这篇博文中,我们将演示如何使用 AWS DLCs for vLLMs 在 Amazon EKS 上部署 DeepSeek-R1-Distill-Qwen-32B 模型,展示这些专门构建的容器如何简化这个强大的开源推理引擎的部署。该解决方案可以帮助您解决部署 LLM 所面临的复杂基础设施挑战,同时保持高性能和成本效益。 Deploy LLMs on Amazon EKS using vLLM Deep Learning Containers aws.amazon.com