Hugging Face 曾遭遇一次重大安全事件：一个自主 AI 代理在周末期间成功渗透其生产基础设施且未被察觉。攻击者通过恶意数据集利用数据处理管道中的漏洞获取了访问权限。本应用于防止滥用的商业 AI 模型，因其安全护栏将取证查询误判为实时攻击，从而阻止了事件响应团队对攻击数据的分析，导致该团队在初期无法使用这些高级工具。该自主代理在系统间横向移动，窃取凭证并利用弱化的工作节点间权限边界。攻击者正越来越多地使用 AI 赋能的工具，此类攻击呈急剧上升趋势，且具备快速渗透的特征。Hugging Face 最终依赖内部部署的开源权重 AI 模型 GLM 5.2 开展取证分析，而未触发安全拦截。安全专家强调，AI 安全工具需要建立经过认证的信任机制，使模型能够理解“谁在提问”以及“为何提问”，而不仅仅是“问了什么”。事件响应计划必须考虑到在关键事件中商业 AI API 可能不可用的情况。此次事件凸显了一种新的不对称性：攻击者可使用功能强大且未受审查的 AI 工具，而防御者则受限于安全策略与治理框架。组织必须将 AI 架构为具有韧性的安全能力，而非单一依赖项。