タイミングギャップの解消:防御的テンポラルオブザーバビリティ ノート

タイミングギャップの解消:防御的テンポラルオブザーバビリティ

最近、特にアップタイム、パルスチェック、実行時間、応答時間といった、通常は健全性指標として見なされるものに関連して、時間の概念が頭にありました。これらの指標は、システムのセキュリティに関する洞察を提供できるため、セキュリティ指標としても見ることができます。タイミングをセキュリティ指標として使用できるという考えは新しいものではなく、過去には秘密のタイミングチャネルや行動のベースライン検出に利用されてきました。攻撃者は長い間、タイミングが情報を持つことを理解しており、研究者は大規模言語モデルに対するタイミングサイドチャネル攻撃を実証してきました。しかし、ほとんどの研究は、タイミングがどのように悪用されるかに焦点を当てており、攻撃に対する防御にどのように使用できるかには焦点を当てていませんでした。最近のLLMエージェントセキュリティの調査では、時間的異常検出インフラストラクチャが未解決の研究課題として特定されており、この分野でのさらなる研究の必要性が強調されています。調査では、現在のエージェント展開フレームワークは、時間的異常検出に必要な行動のベースラインをサポートしておらず、議論は主にセッションレベルの行動に焦点を当てていると指摘されています。観測可能なイベント間の間隔、または単一の実行内のリズムは、ほとんど未踏のままであり、時間が見過ごされてきた観測可能性の別の次元である可能性があります。到着間隔間の行動の変化とエントロピーを測定することにより、セキュリティを向上させるためのノイズではなく信号としてタイミングを使用できる可能性があります。著者は自身の研究でこの概念を探求しており、特にエージェントシステムにおける時間的行動の防御側で他に誰が取り組んでいるかを知りたいと思っています。