Dans cet article, nous démontrons comment déployer le modèle DeepSeek-R1-Distill-Qwen-32B en utilisant les conteneurs DLC d'AWS pour les vLLMs sur Amazon EKS, en mettant en évidence comment ces conteneurs conçus à cet effet simplifient le déploiement de ce puissant moteur d'inférence open source. Cette solution peut vous aider à résoudre les défis d'infrastructure complexes liés au déploiement des LLM tout en maintenant des performances et une efficacité coût.