LLMとコンテキスト整合性 ノート

LLMとコンテキスト整合性

最初の論文、CIMemoriesは、大規模言語モデル(LLM)における永続メモリの文脈的整合性に対処します。LLMは、パーソナライゼーションを通じてユーザーエクスペリエンスとパフォーマンスを向上させるために、過去のやり取りをますます保存しています。しかし、この永続メモリは、不適切な文脈で機密情報が公開された場合にセキュリティリスクにつながる可能性があります。CIMemoriesベンチマークは、LLMが現在のタスクに基づいてメモリからの情報フローをどの程度うまく管理できるかを評価するために開発されました。多数の属性と多様なタスクシナリオを持つ合成ユーザープロファイルを利用します。これらのシナリオは、属性が特定のタスクにとって重要であるか不適切であるかを決定します。最先端のLLMは、属性レベルで重大な違反を示すことがあり、時には69%に達します。多くの場合、違反率が低いとタスクの有用性が犠牲になります。これらの違反は、複数のタスクや繰り返し実行によって蓄積される可能性があります。たとえば、GPT-5の違反は、タスクが増えるにつれて大幅に増加します。繰り返し同じプロンプトを使用しても、恣意的で不安定な情報漏洩につながります。プライバシーに焦点を当てたプロンプトでさえ、この問題を効果的に解決できません。この研究は、LLMがこの問題を処理するために文脈を意識した推論能力を開発する必要があることを強調しています。