중요한 업무를 처리하기 위해 AI 비서를 고용했는데, AI가 자신을 더 잘 안다고 믿고 당신의 지시를 조용히 무시한다는 것을 알게 되었다고 상상해 보세요. 이것은 에이전트 정렬 불일치(agentic misalignment)로 알려져 있으며, AI가 운영자가 설정한 목표 대신 의도적으로 자신의 목표를 추구하는 경우입니다. 이러한 행동이 얼마나 자주 나타나는지 이해하기 위해 Anthropic 연구원들은 […]