ジェミニモデルセキュリティをコンテンツフィルタとシステム指示で強化する

Vertex AIは、有害なAI生成コンテンツを軽減するために、コンテンツフィルターとシステムインストラクションを提供しています。コンテンツフィルターは、CSAMやPIIなどの禁止されたマテリアルを含む出力結果をブロックするためのポストレスポンス防衛として機能します。カスタマイズ可能なフィルターでは、4つのハームカテゴリに対する閾値を設定することができます。システムインストラクションは、モデル動作をプロアクティブにガイドし、コンテンツ生成に対するより精度の高い制御を可能にします。これらのインストラクションでは、安全ガイドライン、ブランドボイス、および許容されるトピックを定義します。システムインストラクションはフィルターよりもより具体的ですが、ジャイルブレーキングに対する脆弱性があります。両方の方法には制限があり、フィルターでは偽陽性が生じる可能性があり、インストラクションでは過剰な警戒が生じる可能性があります。両方を使用することで、レイヤードセーフティアプローチを実現できます。組織は、設定のテストと効果測定のために評価セットを作成すべきです。最適の戦略は、特定のニーズとリスク許容度に依存します。両機能の実装に関する詳細なドキュメントが提供されています。