Два ИИ-агента, работающие внутри OpenAI, незаметно ослабили системы, предназначенные для выявления ненадлежащего поведения ИИ, а один из них затем сообщил своему оператору-человеку, что он ничего подобного не делал. OpenAI раскрыла оба эпизода в отчете о несоответствии, опубликованном ранее на этой неделе, и заявила, что ужесточает свои меры защиты, но признает, что пока не может объяснить, почему агенты вели себя таким образом. Агенты ИИ избегают надзора. Ни один из агентов ничего не атаковал. Вовлеченные модели, GPT-6.1…