인간의 주의력은 새롭지만 오래된 병목 현상입니다. 우리... 노트

인간의 주의력은 새롭지만 오래된 병목 현상입니다. 우리는 그것을 위해 더욱 설계해야 합니다.

"Anthropic의 연구는 AI 에이전트가 업무의 본질을 극적으로 변화시키고 있으며, 직원들이 인간 한 시간당 효과적으로 여섯 시간을 일하고 있음을 강조합니다. 주요 과제는 이러한 에이전트가 생성하는 방대한 양의 정보로, 이는 일주일의 상당한 시간을 소모하는 "읽기 세금"으로 이어집니다. 이러한 변화는 근로자를 직접적인 생산자가 아닌 AI 시스템의 관리자로 변화시키고 있습니다. 이를 해결하기 위해 Anthropic은 인간이 통제권을 유지할 수 있는 실질적인 단계를 제안합니다.에이전트 출력 검토에 소요되는 시간을 측정하는 것은 중요합니다. 왜냐하면 풍부한 정보는 주의력을 압도할 수 있기 때문입니다. 에이전트는 경보 관리 시스템과 유사하게 요청의 심각도에 따라 순위를 매기도록 설계되어야 하므로, 일상적인 작업이 즉각적인 인간의 개입을 요구하지 않도록 해야 합니다. 검토 프로세스 자체는 자동화 편향을 방지하기 위해 변경 사항과 정당성을 명확하게 보여주는 신중한 설계가 필요합니다.에이전트가 이 정보를 효과적으로 접근하고 활용할 수 있도록 "컨텍스트 엔지니어링"이라고 불리는 접근 가능한 형식으로 결정을 문서화하는 것이 필수적입니다. AI 에이전트를 관리하는 역할, 즉 "메타 작업"은 증가하고 있으며, 작업 지정 및 에이전트 상호 작용 감독에 대한 기술이 필요합니다. AI가 더 많은 일상적인 작업을 처리함에 따라 판단력과 분석적 사고를 위한 채용이 매우 중요해지고 있습니다.마지막으로, Anthropic의 조사 결과는 신입 직무가 크게 감소함에 따라 초급 직무에 대한 우려를 제기합니다. 에이전트 검토를 중심으로 이러한 직무를 재건하면 미래의 AI 관리자에게 필요한 교육과 경험을 제공할 수 있습니다. 이러한 진화는 과거의 산업 합의를 반영하며, 인간-AI 인력을 관리하기 위한 새로운 프레임워크의 필요성을 시사합니다."
CdXz5zHNQW_DTYY3boCc9.png