この投稿では、Amazon EKS 上の vLLMs 用 AWS DLC を使用して DeepSeek-R1-Distill-Qwen-32B モデルをデプロイする方法を説明します。これにより、この強力なオープンソース推論エンジンのデプロイを簡素化する目的で構築されたコンテナがどのように役立つかを示します。このソリューションは、パフォーマンスとコスト効率を維持しながら、LLM をデプロイする際の複雑なインフラストラクチャの課題を解決するのに役立ちます。