RSS GitLab
팔로우
AI를 직접 소유하기: AWS Bedrock을 통한 자체 호스팅 GitLab Duo 모델
GitLab Duo Self-Hosted는 조직이 데이터 통제권을 유지하면서 소프트웨어 개발에 AI를 활용할 수 있도록 합니다. 이 솔루션은 GitLab과 AWS Bedrock과 같은 플랫폼에서 호스팅되는 AI 모델을 통합하여 데이터가 조직의 인프라 내에 유지되도록 합니다. 주요 이점으로는 완전한 데이터 개인 정보 보호, 모델 유연성 및 규제 산업에 대한 규정 준수 등이 있습니다. 아키텍처는 자체 관리되는 GitLab 인스턴스, 요청 라우팅을 위한 AI 게이트웨이 및 LLM 백엔드를 포함합니다. 구현을 위해 조직은 Duo Enterprise 추가 기능 라이선스 및 AWS 자격 증명이 포함된 GitLab Premium 또는 Ultimate 인스턴스가 필요합니다. 프로세스는 AI 게이트웨이 설치로 시작되며, GitLab을 구성하여 AI 게이트웨이에 연결합니다. 그런 다음 사용자는 AWS Bedrock에서 원하는 모델에 액세스하고 GitLab 내에서 특정 자체 호스팅 모델을 구성합니다. 마지막으로 코드 제안 및 GitLab Duo Chat과 같은 AI 기반 기능을 구성된 자체 호스팅 모델에 할당합니다. 검증에는 상태 확인 실행, 기능 테스트 및 AI 게이트웨이 로그 검토가 포함됩니다. 가이드가 AWS Bedrock에 중점을 두지만, GitLab Duo Self-Hosted는 vLLM 및 Azure OpenAI Service를 사용한 온프레미스 배포도 지원합니다. 이 접근 방식은 AI 혁신과 강력한 데이터 보안 간의 균형을 제공합니다.