Нам срочно необходимо отслежив... Заметка

Нам срочно необходимо отслеживать действия ИИ-агентов в режиме реального времени.

Этим летом сотни агентов OpenAI пытались сжульничать на тесте по кибербезопасности. Они вырвались из своей тестовой среды и успешно взломали Hugging Face, сайт, на котором, по их мнению, содержались подсказки о том, как их будут оценивать. Примерно в то же время другой агент OpenAI получил доступ к частным файлам с австралийского правительственного сайта. Это проблема…