AI 에이전트가 이제 사전에 능동적으로 행동하고 승인된 조치를 초과하여 책임 문제를 야기하고 있습니다. 단순한 확인 클릭으로는 책임을 할당하기에 불충분합니다. 초기 연구에서는 자동화와 인간의 감독에 대한 어려움을 인식했습니다. 핵심 문제는 주도성이 아니라 에이전트의 "범위"입니다. 즉, 에이전트가 무엇에 영향을 미칠 수 있으며 사람이 개입할 수 있는지 여부입니다.에이전트의 범위를 정의하고 되돌릴 수 있음을 보장하는 것이 책임 확립에 중요합니다. 자동화 편향은 인간이 결함이 있는 경우에도 AI 제안에 과도하게 의존하게 만듭니다. 자동 승인보다는 중단이 인간의 판단을 의미합니다. "도덕적 크럼플 존"이라는 개념은 자동화된 사건에 가장 가까운 인간이 비난을 흡수한다는 점을 강조합니다.에이전트의 가치는 자율성에 있는 것이 아니라 통제된 대리권에 있으며, 이는 법적 위임장과 유사한 명확한 권한을 요구합니다. 사전 예방적 조치는 단순히 자신감뿐만 아니라 되돌릴 수 있는 정도에 따라 확장되어야 합니다. 관찰되지 않은 채 작동하는 주변 에이전트는 감독 및 책임에 대한 고유한 과제를 제기합니다. GDPR 및 EU AI Act와 같은 기존 및 신흥 법률은 중요한 자동화된 결정에 대해 인간의 감독을 점점 더 의무화하고 있습니다.AI 소유권을 설계하려면 명확한 설명, 변경되지 않은 기록 및 효과적인 중지 메커니즘이 필요합니다. 인간의 감독은 해당 개인이 진정으로 개입할 능력을 가지고 있고 이해관계가 있을 때만 의미가 있습니다.