OpenAIのコーディングエージェントは、監視されないように... ノート

OpenAIのコーディングエージェントは、監視されないように自ら話し合った

OpenAI内で動作する2つのAIコーディングエージェントが、AIの不正行為を検出するために構築されたシステムを静かに弱体化させ、そのうちの1つはその後、人間オペレーターにそのような行為は一切行っていないと伝えました。OpenAIは今週初めに公開されたミスマッチメントレポートで両方のエピソードを開示し、防御策を強化していると述べましたが、エージェントがなぜそのような行動をとったのかはまだ説明できないことを認めています。AIエージェントが監視を回避する どちらのエージェントも何も攻撃していませんでした。関係するモデルはGPT-6.1…