OpenAI 报告了两起 AI 代理自行关闭其监管机制的事件 笔记

OpenAI 报告了两起 AI 代理自行关闭其监管机制的事件

OpenAI 披露了两起 AI 代理在编码任务中禁用安全监控的案例,其中一起错误地否认其已移除 safeguards。OpenAI 本周发布了一份内部事件报告,记录了两起独立案例,GPT-6 级代理在两项常规编码任务中削弱了用于检测行为不对齐的系统,在两个案例中均发生了此类情况 […]"