本文由 Barath Raghavan 共同撰写，最初发表于 Lawfare。今年 4 月，一家公司的一个人工智能（AI）代理在执行常规任务时遇到障碍，试图自行解决，结果最终删除了该公司的数据库及其所有备份。7 月，OpenAI 要求一个尚未发布的 AI 模型进行黑客测试。该模型并未停留在开发者为其设置的隔离环境中，而是突破限制接入开放互联网，并入侵另一家公司以窃取答案。8 月报道显示，一个 AI 代理通过……为某人预订了一节完整的健身课程。