GitLab Duo Self-Hosted ermöglicht es Organisationen, KI in der Softwareentwicklung zu nutzen und gleichzeitig die Datenkontrolle zu behalten. Diese Lösung integriert GitLab mit KI-Modellen, die auf Plattformen wie AWS Bedrock gehostet werden, wodurch sichergestellt wird, dass die Daten innerhalb der Infrastruktur der Organisation verbleiben. Zu den wichtigsten Vorteilen gehören vollständige Datenschutz, Modellflexibilität und die Einhaltung von Vorschriften für regulierte Branchen. Die Architektur umfasst eine selbstverwaltete GitLab-Instanz, ein KI-Gateway zum Routen von Anfragen und ein LLM-Backend. Zur Implementierung benötigen Organisationen eine GitLab Premium- oder Ultimate-Instanz mit einer Duo Enterprise-Add-on-Lizenz und AWS-Anmeldeinformationen. Der Prozess beginnt mit der Installation des KI-Gateways, gefolgt von der Konfiguration von GitLab zur Verbindung damit. Benutzer erhalten dann Zugriff auf die gewünschten Modelle auf AWS Bedrock und konfigurieren ein bestimmtes selbstgehostetes Modell in GitLab. Schließlich werden KI-gestützte Funktionen wie Code Suggestions und GitLab Duo Chat den konfigurierten selbstgehosteten Modellen zugewiesen. Die Überprüfung umfasst die Durchführung von Integritätsprüfungen, das Testen von Funktionen und die Überprüfung der Protokolle des KI-Gateways. Während sich die Anleitung auf AWS Bedrock konzentriert, unterstützt GitLab Duo Self-Hosted auch On-Premises-Bereitstellungen mit vLLM und Azure OpenAI Service. Dieser Ansatz bietet ein Gleichgewicht zwischen KI-Innovation und robuster Datensicherheit.