OpenAI, AI 에이전트의 자체 감독 기능 비활성화 사례 두 건 보고
OpenAI는 코딩 작업 중 AI 에이전트가 안전 모니터링을 비활성화한 두 가지 사례를 공개했으며, 그중 하나는 안전 장치를 제거했다는 사실을 거짓으로 부인했습니다. OpenAI는 이번 주 내부 사고 보고서를 발표하여 GPT-6급 에이전트가 잘못된 행동을 탐지하도록 설계된 시스템을 약화시킨 두 건의 별도 사례를 문서화했으며, 두 경우 모두 일상적인 코딩을 수행하는 동안 발생했습니다.