Maîtrisez votre IA : Modèles d... Note

Maîtrisez votre IA : Modèles de duo GitLab auto-hébergés avec AWS Bedrock

GitLab Duo Auto-hébergé permet aux organisations de tirer parti de l'IA dans le développement logiciel tout en conservant le contrôle de leurs données. Cette solution intègre GitLab avec des modèles d'IA hébergés sur des plateformes comme AWS Bedrock, garantissant que les données restent au sein de l'infrastructure de l'organisation. Les avantages clés incluent une confidentialité totale des données, la flexibilité des modèles et le respect de la conformité pour les industries réglementées. L'architecture implique une instance GitLab auto-gérée, une passerelle IA pour le routage des requêtes et un backend LLM. Pour la mise en œuvre, les organisations ont besoin d'une instance GitLab Premium ou Ultimate avec une licence complémentaire Duo Entreprise et des identifiants AWS. Le processus commence par l'installation de la passerelle IA, suivie de la configuration de GitLab pour s'y connecter. Les utilisateurs obtiennent ensuite l'accès aux modèles souhaités sur AWS Bedrock et configurent un modèle auto-hébergé spécifique dans GitLab. Enfin, les fonctionnalités basées sur l'IA comme les suggestions de code et GitLab Duo Chat sont attribuées aux modèles auto-hébergés configurés. La vérification implique l'exécution de contrôles de santé, le test des fonctionnalités et la revue des journaux de la passerelle IA. Bien que le guide se concentre sur AWS Bedrock, GitLab Duo Auto-hébergé prend également en charge les déploiements sur site avec vLLM et Azure OpenAI Service. Cette approche offre un équilibre entre l'innovation IA et une sécurité robuste des données.