In diesem Beitrag zeigen wir, wie das DeepSeek-R1-Distill-Qwen-32B-Modell mit AWS DLCs für vLLMs auf Amazon EKS bereitgestellt wird. Wir demonstrieren, wie diese speziell entwickelten Container die Bereitstellung dieser leistungsstarken Open-Source-Inferenz-Engine vereinfachen. Diese Lösung kann Ihnen helfen, die komplexen Infrastrukturherausforderungen bei der Bereitstellung von LLMs zu lösen und gleichzeitig Leistung und Kosteneffizienz zu gewährleisten.