Microsoft Foundry와 함께 GitLab D... 노트
GitLab 한국어

Microsoft Foundry와 함께 GitLab Duo Self-Hosted에 나만의 모델을 가져오세요

데이터 주권에 대한 우려가 있는 조직은 코드의 위치를 제어함으로써 GitLab Duo와 같은 AI 코딩 도구를 채택할 수 있습니다. GitLab Duo Self-Hosted를 사용하면 관리자가 Microsoft Foundry를 포함하여 선택한 인프라에 호스팅되는 모델에 해당 기능을 연결할 수 있습니다. 이를 통해 호스팅, 지역, 네트워크 경로 및 자격 증명에 대한 제어를 제공하여 데이터 상주 및 규제 요구 사항을 해결할 수 있습니다. Microsoft Foundry는 OpenAI GPT, Anthropic Claude 및 Meta Llama를 포함한 다양한 AI 모델을 위한 다목적 플랫폼 역할을 합니다. GitLab의 유연성을 통해 개별 Duo 기능에 특정 모델을 할당하여 다양한 워크로드 및 비용 효율성을 최적화할 수 있습니다. 설정 프로세스는 모델 제품군 전반에 걸쳐 일관되며, 배포된 특정 모델 및 구성 세부 정보에만 차이가 있습니다. Foundry의 최신 버전이 GitLab의 매트릭스와 자동으로 호환되는 것은 아니므로 GitLab과 Foundry 모두에서 모델 지원을 확인하는 것이 중요합니다. GitLab Duo Self-Hosted는 Azure 내에서 운영되는 조직에 이상적이며 배포, 액세스 및 네트워킹의 중앙 집중식 관리를 제공합니다. 아키텍처에는 자체 관리형 GitLab 인스턴스, 요청 라우팅을 위한 AI Gateway, Microsoft Foundry에 호스팅되는 모델 엔드포인트가 포함됩니다. 코드 입력 및 모델 응답과 같은 추론 데이터는 완전히 자체 호스팅된 구성에서 사용자 네트워크 내에 유지됩니다. 모델을 선택할 때는 다양한 기능 영역에 걸친 등급을 고려하고 현재 잘 지원되는 옵션을 우선적으로 고려하십시오. 사전 요구 사항에는 GitLab Premium 또는 Ultimate Self-Managed 인스턴스와 Microsoft Foundry에 액세스할 수 있는 Azure 구독이 포함됩니다. 구현에는 Foundry에 모델 배포, AI Gateway 설치, 게이트웨이에 연결하도록 GitLab 구성, 그런 다음 각 Foundry 배포를 GitLab에 추가하는 작업이 포함됩니다.