《AI 红队测试完整指南(含 Garak 教程)》 笔记

《AI 红队测试完整指南(含 Garak 教程)》

今年早些时候,一个自主 AI 代理仅利用一个陈旧的 SQL 注入漏洞,便突破了麦肯锡的内部 AI 平台。无需凭证,无需人工指导,耗时不足两小时。该代理已触及生产系统,导致数百万条聊天消息和数十万份文件泄露。AI 安全格局已然改变,传统假设不再适用。[……]