应用安全团队可以几乎无需配置，就将运行在通用模型上的 AI 代理指向其自身的 Web 应用。当然，该模型负责生成攻击载荷。但所有使这些攻击能够安全地在生产环境中运行、并在后续值得采取行动的内容，都封装在围绕模型的框架中。该框架正是 AI 渗透测试中工程实现的核心所在。Hugging Face 在 7 月披露的入侵 OpenAI 事件