GitLab 中文
关注
将您的模型通过 Microsoft Foundry 集成至 GitLab Duo 自托管版
关注数据主权的组织可以通过确保代码驻留位置受控,采用如 GitLab Duo 等 AI 编码工具。GitLab Duo Self-Hosted 允许管理员将其功能连接到部署在选定基础设施上的模型,包括 Microsoft Foundry。这提供了对托管位置、区域、网络路径和凭据的控制,从而满足数据驻留和监管需求。Microsoft Foundry 是一个多功能平台,支持多种 AI 模型,包括 OpenAI GPT、Anthropic Claude 和 Meta Llama。GitLab 的灵活性使得可以将特定模型分配给各个 Duo 功能,以优化不同工作负载的成本效益。模型系列的设置流程保持一致,差异仅在于部署的具体模型和配置细节。必须从 GitLab 和 Foundry 双方验证模型支持,因为 Foundry 的新版本并不自动兼容 GitLab 的矩阵。GitLab Duo Self-Hosted 非常适合在 Azure 内运营的组织,提供对部署、访问和网络连接的集中管理。其架构包括自托管的 GitLab 实例、用于请求路由的 AI 网关,以及托管在 Microsoft Foundry 中的模型端点。在完全自托管的配置中,推理数据(如代码输入和模型响应)保留在用户网络内。在选择模型时,应考虑其在不同能力领域的评分,并优先选择当前受良好支持的选项。先决条件包括 GitLab Premium 或 Ultimate 自托管实例,以及拥有 Microsoft Foundry 访问权限的 Azure 订阅。实施步骤包括在 Foundry 中部署模型、安装 AI 网关、配置 GitLab 以连接到网关,然后将每个 Foundry 部署添加到 GitLab。