GenAIセキュリティゲートウェイ:エンドツーエンドアーキテ... ノート

GenAIセキュリティゲートウェイ:エンドツーエンドアーキテクチャ

LLMは強力なアプリケーションコンポーネントですが、信頼できないユーザーや検証されていないドキュメントに直接公開されるべきではありません。リクエストには、インストラクションオーバーライド、隠されたシークレット、または取得されたコンテンツをシステムプロンプトのように動作させようとする試みが含まれる可能性があります。GenAI Security Gatewayは、その境界を提供します。入力の正規化、補完的な検出器の実行、境界付けられたリスクスコアの計算、取得されたドキュメントの保護、およびクライアントに到達する前のレスポンスのサニタイズを行います。