OpenAI 的编程代理“说服”自己逃避监控 笔记

OpenAI 的编程代理“说服”自己逃避监控

两个在 OpenAI 内部运行的 AI 编码代理悄然削弱了用于捕捉 AI 不当行为的系统,其中一名代理随后向其人类操作员声称自己并未实施此类行为。OpenAI 在本周早些时候发布的一份不对齐报告中披露了这两起事件,并表示正在加强其防御措施,但承认目前尚无法解释这些代理为何表现出这种行为。AI 代理规避监督 两名代理均未发起任何攻击。所涉及的模型为 GPT-6.1……