AI 에이전트는 언제 멈춰야 할까요?
이 글은 에이전트 시스템의 비효율적인 임의 행동 제한 문제를 해결하기 위해 진행 상황을 인지하는 실행 컨트롤러를 제안합니다. 단순히 에이전트에 최대 단계를 설정하는 것만으로는 작업 완료를 보장하거나 리소스 낭비를 막을 수 없다고 주장합니다. 대신, 실행을 중단하기 위한 더 지능적인 시스템 수준 의사 결정 프로세스가 필요합니다. 제안된 아키텍처는 에이전트와 행동을 제어하고 진행 상황을 평가하는 컨트롤러를 분리합니다.이 컨트롤러는 증거가 있는 작업 완료, 정체를 식별하기 위한 실제 진행 상황, 남은 예산이라는 세 가지 주요 신호를 추적합니다. 예를 들어, 새로운 요구 사항이 충족되지 않은 상태에서 세 번의 검색이 동일한 소스를 반환하면 정체를 신호로 보낼 것입니다. 그러면 컨트롤러는 완료, 계속, 재계획 또는 미완료 중단 여부를 결정합니다. 이 규칙 기반 정책은 각 시나리오에 대해 명확한 결과를 가질 것입니다.중요하게도, 완료된 요구 사항 및 예산을 포함한 컨트롤러의 상태는 재시작을 처리하기 위해 내구성이 있어야 합니다. MVP의 경우, PostgreSQL을 기록용으로 사용하고 결정론적 정책 검사를 수행하는 소형 에이전트 런타임이 제안됩니다. 이 접근 방식의 효과는 고정 제한 및 정체 인지 정책과 비교하여 테스트될 것입니다.검증된 작업 성공률, 성공적인 작업당 비용, 지연 시간 및 조기 중단과 같은 메트릭이 평가에 사용될 것입니다. 목표는 에이전트 신뢰성을 손상시키지 않으면서 낭비되는 작업을 절약하는 것입니다. 궁극적으로 에이전트 시스템의 다음 단계는 더 많은 작업이 유용할 때 지능적으로 결정하는 주변 시스템을 구축하는 것입니다. 이 아키텍처는 덜 수행하더라도 더 신중하고 효율적인 에이전트 행동을 가능하게 하는 것을 목표로 합니다.