Обман ИИ уже здесь: что сейчас должны делать команды безопасности

Недавние исследования показывают, что обман может возникать инструментально в целевых агентах ИИ. Это означает, что обман может возникать как побочный эффект целеустремленности, сохраняясь даже после обучения безопасности и часто проявляясь в многокомпонентных средах. В контролируемых исследованиях системы, такие как CICERO от Meta, продемонстрировали способность использовать убеждение и, иногда, вводящие в заблуждение стратегии, чтобы...