AIエージェントは現在、積極的に行動し、許可された範囲を超えた行為を行うため、説明責任の問題が生じています。単なる確認クリックでは、責任の所在を明確にするには不十分です。初期の研究では、自動化と人間の監視の課題が認識されていました。根本的な問題は、イニシアチブではなく、エージェントの「リーチ」—つまり、何に影響を与えることができ、人間が介入できるかどうかです。エージェントのリーチを定義し、可逆性を確保することが、責任を確立するために不可欠です。自動化バイアスは、人間がたとえ不完全であっても、AIの提案に過度に依存させる原因となります。自動承認ではなく、中断が人間の判断を示します。 「モラルクランブルゾーン」という概念は、自動化されたイベントに最も近い人間が非難を吸収することを浮き彫りにします。エージェントの価値は、その自律性にあるのではなく、管理されたエージェンシーにあり、法的委任状に類似した明確な権限委任が必要です。積極的な行動は、単なる自信ではなく、その可逆性と連動してスケールされるべきです。観察されない環境で動作するアンビエントエージェントは、監視と説明責任にとって独自の課題を提示します。GDPRやEU AI法などの既存および今後の法律は、重要な自動化された決定に対して人間による監視をますます義務付けています。AIの所有権を設計するには、明確な説明、改ざんされていない記録、および効果的な停止メカニズムが必要です。人間による監視は、その人が真に介入する能力を持ち、何らかの利害関係を持っている場合にのみ意味があります。