AIを自分のものに:AWS Bedrockによるセルフホスト... ノート
RSS GitLab

AIを自分のものに:AWS BedrockによるセルフホストGitLab Duoモデル

GitLab Duo Self-Hosted は、組織がソフトウェア開発で AI を活用しながらデータのコントロールを維持できるソリューションです。このソリューションは、AWS Bedrock などのプラットフォーム上でホストされる AI モデルとの統合を実現し、データを組織のインフラストラクチャー内に保持します。主要な利点として、完全なデータプライバシー、モデル柔軟性、および規制された業界でのコンプライアンス遵守が挙げられます。アーキテクチャーには、セルフマネージド GitLab インスタンス、AI Gateway によるリクエストのルーティング、および LLM バックエンドが含まれます。実装するには、GitLab Premium または Ultimate インスタンスに Duo Enterprise アドオンライセンス、および AWS クレデンシャルが必要です。プロセスは、AI Gateway のインストールから始まり、GitLab をその接続に設定します。次に、ユーザーは AWS Bedrock 上の望ましいモデルにアクセスし、GitLab 内で特定のセルフホストモデルを設定します。最後に、Code Suggestions や GitLab Duo Chat などの AI パワード機能を設定されたセルフホストモデルに割り当てます。検証には、ヘルスチェックの実行、機能のテスト、および AI Gateway ログのレビューが含まれます。ガイドは AWS Bedrock に焦点を当てていますが、GitLab Duo Self-Hosted は、vLLM および Azure OpenAI Service とのオンプレミス展開もサポートしています。このアプローチでは、AI イノベーションとロバストなデータセキュリティのバランスを実現します。