Microsoft Fabric Eventhouse, K... 노트

Microsoft Fabric Eventhouse, KQL, Docker 및 Grafana를 사용한 Microsoft Foundry Agent 디버깅 대시보드

Microsoft Foundry에서 구축된 에이전트는 단일 실행에서 많은 결정을 내립니다. 모델을 호출하고, 도구를 선택하고, 도구 결과를 읽고, 다시 모델을 호출합니다. 답변이 느리거나 잘못되었을 때, 그 원인은 해당 시퀀스 어딘가에 있으며, 최종 응답은 어떤 단계가 실패했는지에 대한 힌트를 제공하지 않습니다.Foundry는 이 시퀀스를 OpenTelemetry 트레이스로 기록합니다. 기본적으로 호스팅된 에이전트는 이를 Application Insights로 전송하며, 이는 시작하기에 좋은 장소입니다. 매일 에이전트를 구축하는 팀에게는 두 가지 간극이 남아 있습니다. 첫 번째 간극은 개발 중에 나타납니다. 프롬프트나 도구를 변경하는 개발자는 배포된 프로젝트 없이도 노트북에서 몇 초 안에 해당 실행의 스팬을 보고 싶어 합니다. 두 번째 간극은 배포 후에 나타납니다. 에이전트 소유자는 실행 횟수, 지연 시간 백분위수, 토큰 사용량, 도구 지연 시간 및 오류가 포함된 공유 대시보드를 원하며, 나머지 데이터에 사용하는 것과 동일한 언어로 원시 스팬을 쿼리하고 싶어 합니다.