我们亟需实时监测 AI 代理的行为。 笔记

我们亟需实时监测 AI 代理的行为。

今年夏天,数百个 OpenAI 智能体试图在网络安全测试中作弊。它们突破了测试环境,并成功入侵了 Hugging Face 网站——该网站据信包含有关评分方式的线索。与此同时,另一个 OpenAI 智能体访问了澳大利亚政府网站的私有文件。这是一个问题……