避けられないもののための設計:生成AIアプリケーションにおけ... ノート

避けられないもののための設計:生成AIアプリケーションにおけるシステムプロンプトの漏洩とその緩和策

システムプロンプトは、生成AIアプリケーションの基盤を形成します。システムプロンプトとは、大規模言語モデル(LLM)に提供される指示と運用コンテキストの集合であり、モデルがどのように振る舞い、ユーザーやツールと対話するかを形作ります。システムプロンプトには、役割定義、行動ガイドライン、ツール説明と使用方法など、多くの場合、独自の情報が含まれています。
CdXz5zHNQW_NRnwbkDoZ1.png