Сокращение временного разрыва:... Заметка

Сокращение временного разрыва: Защитная временная наблюдаемость

Концепция времени в последнее время занимает мои мысли, особенно в связи с временем безотказной работы, проверками пульса, временем выполнения и временем отклика, которые обычно рассматриваются как метрики работоспособности. Эти метрики также можно рассматривать как метрики безопасности, поскольку они могут дать представление о безопасности системы. Идея использования времени в качестве метрики безопасности не нова, поскольку в прошлом оно использовалось для обнаружения скрытых временных каналов и установления базовых поведенческих показателей. Злоумышленники давно поняли, что время может нести информацию, и исследователи продемонстрировали атаки по временным побочным каналам на большие языковые модели. Однако большинство исследований сосредоточено на том, как время может быть использовано, а не на том, как его можно использовать для защиты от атак. Недавний обзор безопасности LLM-агентов выявил инфраструктуру обнаружения временных аномалий как открытую исследовательскую область, подчеркнув необходимость дальнейших исследований в этой области. В обзоре отмечалось, что текущие фреймворки развертывания агентов не поддерживают поведенческие базовые показатели, необходимые для обнаружения временных аномалий, и обсуждение в основном сосредоточено на поведении на уровне сеанса. Пространство между наблюдаемыми событиями, или ритм в рамках одного выполнения, остается в значительной степени неисследованным, и вполне возможно, что время является еще одним измерением наблюдаемости, которое было упущено. Измеряя поведенческие изменения и энтропию в интервалах между прибытиями, можно использовать время как сигнал, а не как шум, для повышения безопасности. Автор исследует эту концепцию в своей работе и интересуется, кто еще работает над защитной стороной временного поведения, особенно для агентурных систем.