타이밍 격차 해소: 방어적 시간 관찰 가능성 노트

타이밍 격차 해소: 방어적 시간 관찰 가능성

최근 시간의 개념, 특히 일반적으로 상태 지표로 간주되는 가동 시간, 펄스 확인, 실행 시간 및 응답 시간과 관련하여 많은 생각을 하게 되었습니다. 이러한 지표는 시스템의 보안에 대한 통찰력을 제공할 수 있으므로 보안 지표로도 볼 수 있습니다. 시간을 보안 지표로 사용할 수 있다는 아이디어는 새로운 것이 아니며, 과거에 은밀한 타이밍 채널 및 행동 기준선 탐지에 사용되었습니다. 공격자들은 오랫동안 타이밍이 정보를 전달할 수 있다는 것을 이해해 왔으며, 연구자들은 대규모 언어 모델에 대한 타이밍 부채널 공격을 시연했습니다. 그러나 대부분의 연구는 타이밍을 방어에 어떻게 사용할 수 있는지보다는 어떻게 악용될 수 있는지에 초점을 맞춰왔습니다. LLM 에이전트 보안에 대한 최근 설문 조사에서는 시간적 이상 탐지 인프라를 개방형 연구 격차로 식별하여 이 분야에 대한 더 많은 연구의 필요성을 강조했습니다. 설문 조사에서는 현재 에이전트 배포 프레임워크가 시간적 이상 탐지에 필요한 행동 기준선을 지원하지 않으며, 논의는 주로 세션 수준의 행동에 초점을 맞춰왔다고 언급했습니다. 관찰 가능한 이벤트 사이의 공간, 즉 단일 실행 내의 리듬은 대부분 탐구되지 않은 상태로 남아 있으며, 시간은 간과된 또 다른 관찰 가능성의 차원일 수 있습니다. 도착 간 간격에 걸친 행동 변화 및 엔트로피를 측정함으로써, 보안을 개선하기 위해 타이밍을 노이즈가 아닌 신호로 사용할 수 있을 것입니다. 저자는 자신의 작업에서 이 개념을 탐구하고 있으며, 특히 에이전트 시스템의 방어적 측면에서 시간적 행동에 대해 누가 작업하고 있는지 알고 싶어 합니다.