Foundry, Azure AI Search, Cosm... 노트

Foundry, Azure AI Search, Cosmos DB를 사용하여 Docker로 컨테이너화하고 Grafana로 관찰하는 기반 검색 에이전트 구축

"검색"이 더 이상 충분하지 않은 이유단순한 RAG 파이프라인 — 쿼리 임베딩, 벡터 인덱스 조회, 상위 k개 청크를 프롬프트에 삽입 — 은 단일 턴 FAQ 봇에는 잘 작동합니다. 하지만 다음과 같은 상황이 발생하면 제대로 작동하지 않습니다.다중 턴 메모리 ("지난 분기는 어땠나요?"는 "지난 분기"가 무엇을 의미하는지 알아야 함) 검색 여부에 대한 결정 (일부 질문은 문서 검색이 아닌 구조화된 조회임) 호출자가 확인할 수 있는 인용이 게시물은 작지만 완전한 기반 검색 에이전트를 구축합니다. Azure OpenAI(Microsoft Foundry 경유)는 검색 도구를 호출할지 구조화된 데이터 도구를 호출할지 결정하고, Azure AI Search는 비구조화된 문서에 대한 검색 및 의미 순위를 처리하며, Azure Cosmos DB는 대화 상태 및 구조화된 주문/고객 메타데이터를 저장합니다. 에이전트는 OpenAI 함수 호출을 사용하여 두 데이터 소스 간에 라우팅하고 항상 인용을 반환합니다.