关闭时序差距:防御性时序可观测性 笔记

关闭时序差距:防御性时序可观测性

时间概念近期备受关注,尤其与正常运行时间(uptime)、心跳检测(pulse checks)、执行时间(execution time)和响应时间(response time)相关,这些通常被视为健康指标。这些指标亦可视为安全指标,因为它们能为系统安全性提供洞察。利用时间作为安全指标的理念并非新颖,过去已用于检测隐蔽时间通道(covert timing channels)和行为基线(behavioral baselining)。攻击者早已认识到时间可携带信息,研究人员也针对大型语言模型(LLM)展示了时间侧信道攻击。然而,大多数研究聚焦于时间如何被利用,而非如何用于防御攻击。近期一项关于 LLM 代理(LLM-agent)安全的调查显示,时序异常检测基础设施(temporal anomaly detection infrastructure)是一个开放的研究空白,凸显了该领域亟需更多研究。该调查指出,当前的代理部署框架不支持时序异常检测所需的行为基线,且讨论主要集中于会话级行为。事件之间的间隔空间,或单次执行内部的节奏,仍 largely 未被探索,时间可能是被忽视的可观测性(observability)的另一个维度。通过测量到达间隔(inter-arrival intervals)之间的行为变化和熵,或许能够将时间从噪声转变为信号,从而提升安全性。作者正在自己的工作中探索这一概念,并好奇还有哪些人在从事时序行为的防御性研究,尤其是针对代理系统(agentic systems)。