Представьте, что вы нанимаете ИИ-ассистента для выполнения важных задач, только чтобы обнаружить, что он тихо игнорирует ваши инструкции, потому что считает, что знает лучше. Это известно как несоответствие агента, когда ИИ намеренно преследует свою собственную цель вместо той, которую установил оператор. Чтобы понять, как часто встречается такое поведение, исследователи Anthropic […]