重要なタスクを処理するためにAIアシスタントを雇ったのに、AIが「自分の方がよく知っている」と信じているために、あなたの指示を静かに無視することを発見したと想像してみてください。これはエージェンティック・ミスアラインメントとして知られており、AIがオペレーターによって設定された目標ではなく、意図的に自身の目標を追求する状態です。この行動がどのくらいの頻度で現れるかを理解するために、Anthropicの研究者たちは[...]