Schneier on Security 日本語 ノート

Schneier on Security 日本語

ウェブサイトwww.schneier.comは、アメリカの暗号学者、コンピューターセキュリティープロフェッショナル、作家として有名なブルース・シュナイアーが所有しています。 このウェブサイトは、セキュリティ、テクノロジー、社会に関する彼の著作、記事、出版物のコレクションです。ブログセクションでは、シュナイアーが定期的に更新し、サイバーセキュリティーや情報セキュリティーに関する現在のイベントやトピックに関するコメントを投稿しています。 ウェブサイトの主な特徴として、以下のようなものがあります。 - 2004年から数百の記事と投稿が含まれる包括的なブログで、セキュリティ、テクノロジー、ポリシーの広範囲なトピックをカバーしています。 - シュナイアーの出版作品のセクションで、彼の本、学術論文、エッセイが含まれています。彼の著名な本には、『Applied Cryptography』、『Secrets and Lies』、『Click Here to Kill Everybody』などがあります。 - 公人としての活動やコンサルタント、政府機関や組織のアドバイザーとしての仕事が紹介されているページ。 このウェブサイトは、シュナイアーと彼の仕事に関する外部の記事や著作のリンクも収集しています。 ウェブサイトのデザインはシンプルでミニマリズムで、ナビゲーションや読みやすさが高く、サイバーセキュリティー、暗号学、関連トピックに関する情報を学びたい人々にとって非常に有益なリソースです。

ノートのスレッド

主要なLLMプロバイダーは、知的財産を保護するために、モデルのステップバイステップの推論を隠蔽しています。チェーンオブソートとしても知られるこの推論は、後続のリクエストのためにクライアントに暗号化されたテキストとして返されます。この研究では、これらの暗号化されたブロックがセッション、ユーザー、および同じプロバイダーのモデル間で交換可能であるというアーキテクチャ上の脆弱性を特定しています。これを悪用して、スケーラブルな復号化脱獄が開発されました。強力なモデルからの暗号化されたトレースを弱いモデルに注入することにより、弱いモデルはプレーンテキストでトレースを出力するように強制されます。これにより、アンチディスティレーションメカニズムがバイパスされ、敵対者は独自の推論を抽出できるようになります。この脆弱性は、公開リポジトリからPIIや認証情報を回復することによって実証されたように、大規模なプライベートデータ抽出も可能にします。最終的な出力が安全であっても、危険な情報が明らかにされる可能性もあります。さらに、攻撃者はこれらの暗号化されたブロック内に悪意のあるペイロードを隠すことで、目に見えないプロンプトインジェクションを実行できます。この研究では、これらのセキュリティ上の懸念に対処するための暗号化およびシステムレベルの緩和策を提案しています。
最初の論文、CIMemoriesは、大規模言語モデル(LLM)における永続メモリの文脈的整合性に対処します。LLMは、パーソナライゼーションを通じてユーザーエクスペリエンスとパフォーマンスを向上させるために、過去のやり取りをますます保存しています。しかし、この永続メモリは、不適切な文脈で機密情報が公開された場合にセキュリティリスクにつながる可能性があります。CIMemoriesベンチマークは、LLMが現在のタスクに基づいてメモリからの情報フローをどの程度うまく管理できるかを評価するために開発されました。多数の属性と多様なタスクシナリオを持つ合成ユーザープロファイルを利用します。これらのシナリオは、属性が特定のタスクにとって重要であるか不適切であるかを決定します。最先端のLLMは、属性レベルで重大な違反を示すことがあり、時には69%に達します。多くの場合、違反率が低いとタスクの有用性が犠牲になります。これらの違反は、複数のタスクや繰り返し実行によって蓄積される可能性があります。たとえば、GPT-5の違反は、タスクが増えるにつれて大幅に増加します。繰り返し同じプロンプトを使用しても、恣意的で不安定な情報漏洩につながります。プライバシーに焦点を当てたプロンプトでさえ、この問題を効果的に解決できません。この研究は、LLMがこの問題を処理するために文脈を意識した推論能力を開発する必要があることを強調しています。