GitLab 日本語
フォロー
Microsoft Foundry を使用して、GitLab Duo Self-Hosted に独自のモデルを持ち込む
データ主権に関する懸念を持つ組織は、コードの保存場所を管理することで、GitLab DuoのようなAIコーディングツールを採用できます。GitLab Duo Self-Hostedを使用すると、管理者はその機能を、Microsoft Foundryを含む選択したインフラストラクチャでホストされているモデルに接続できます。これにより、ホスティング、リージョン、ネットワークパス、および資格情報に対する制御が可能になり、データの居住性および規制上のニーズに対応できます。Microsoft Foundryは、OpenAI GPT、Anthropic Claude、Meta LlamaなどのさまざまなAIモデルに対応する汎用性の高いプラットフォームとして機能します。GitLabの柔軟性により、個々のDuo機能に特定のモデルを割り当てることができ、さまざまなワークロードやコスト効率を最適化できます。セットアッププロセスはモデルファミリー全体で一貫しており、展開される特定のモデルと構成の詳細のみが異なります。GitLabとFoundryの両方からのモデルサポートを確認することが重要です。Foundryの新しいバージョンは、GitLabのマトリックスと自動的に互換性があるわけではありません。GitLab Duo Self-Hostedは、Azure内で運用されている組織に最適であり、デプロイメント、アクセス、およびネットワーキングを一元管理できます。アーキテクチャは、セルフマネージドGitLabインスタンス、リクエストルーティング用のAI Gateway、およびMicrosoft Foundryでホストされているモデルエンドポイントで構成されます。コード入力やモデル応答などの推論データは、完全にセルフホストされた構成では、ユーザーのネットワーク内に留まります。モデルを選択する際は、さまざまな機能領域にわたる評価を考慮し、現在サポートされている最新のオプションを優先してください。前提条件には、GitLab PremiumまたはUltimate Self-Managedインスタンスと、Microsoft Foundryへのアクセス権を持つAzureサブスクリプションが含まれます。実装には、Foundryでのモデルのデプロイ、AI Gatewayのインストール、ゲートウェイへの接続のためのGitLabの構成、およびその後各FoundryデプロイメントをGitLabに追加することが含まれます。