Eddú Meléndez hebt die Veröffentlichung von Model Runner in Docker Desktop für Mac durch Docker hervor, das eine lokale Inference API bietet, die mit der OpenAI API kompatibel ist. Dies ermöglicht eine nahtlose Integration mit Spring AI, insbesondere mit der Version 1.0.0-M7. Modelle werden als OCI-Artefakte auf Docker Hub unter dem Namespace "ai" verteilt. Es werden zwei Optionen zur Aktivierung des Model Runners angeboten: entweder direkt oder über Testcontainers. Zu den erforderlichen Abhängigkeiten gehören Spring Web, OpenAI Starter und Testcontainers. Die Konfiguration beinhaltet das Festlegen des OpenAI-Client-Endpunkts, um auf den Model Runner zu verweisen. Ein Chat-Controller-Beispiel demonstriert die grundlegende Interaktion mit dem Modell über HTTP-Endpunkte. Die Tool-Calling-Funktionalität wird unterstützt, was anhand eines Beispiels zur Aktienkursabfrage veranschaulicht wird. Der Beitrag enthält Verweise auf die offizielle Dokumentation und ein Beispielprojekt. Docker Model Runner ermöglicht eine schnellere Iteration, lokale Entwicklung und effiziente Erstellung von KI-Anwendungen. Die zukünftige Integration von Testcontainers verspricht eine noch einfachere Modellverwaltung und -testung.