파이썬 코딩 스택: 2. 실제로 작업을 수행하는 것은 모델인가, 소프트웨어인가?
이 대화는 AI 에이전트의 구성 요소를 탐구하며, Large Language Model(LLM)을 주변 소프트웨어와 구분합니다. AI가 사진을 정리할 때, LLM은 컴퓨터의 파일에 직접 접근하는 것이 아니라 요청을 생성합니다. 이 요청은 에이전트의 작동을 관리하는 소프트웨어인 "하네스(harness)"에 의해 수신됩니다. 하네스는 파일 목록을 가져오거나 메타데이터를 읽는 것과 같은 작업을 수행하기 위해 특정 "도구(tools)"를 사용합니다.하네스는 이러한 도구의 결과를 LLM으로 다시 보내, LLM이 정보를 처리하고 다음 단계를 결정할 수 있도록 합니다. LLM은 구조화된 "도구 호출(tool calls)"을 통해 하네스에 요청을 전달하며, 하네스는 이를 해석하여 올바른 도구를 호출합니다. 이러한 상호 작용은 모델, 하네스, 도구가 반복적으로 정보를 교환하는 에이전트 루프를 생성합니다.모델을 "뇌", 도구를 "근육", 하네스를 "조정자"에 비유하는 것은 그 역할을 명확히 하는 데 도움이 됩니다. 그러나 하네스는 의도하지 않은 파일 수정 방지와 같은 규칙과 제한 사항도 시행합니다. 모델이 최종 응답을 생성하거나 하네스가 오류 또는 제한으로 인해 작업을 중단하면 프로세스가 완료됩니다. 에이전트는 또한 파일을 특정 폴더로 복사하는 것과 같은 작업이 원본을 변경하지 않고 정확하게 완료되었는지 확인해야 합니다.