带有 Microsoft Fabric Eventhouse... 笔记

带有 Microsoft Fabric Eventhouse、KQL、Docker 和 Grafana 的 Microsoft Foundry Agent 调试仪表板

在 Microsoft Foundry 中构建的代理(agent)在单次运行中会做出多项决策:调用模型、选择工具、读取工具结果,并再次调用模型。当回答缓慢或错误时,问题根源往往隐藏在该序列的某个环节之中,而最终响应无法提示具体是哪一步失败。Foundry 将该序列记录为 OpenTelemetry 追踪(traces)。默认情况下,托管代理会将这些追踪发送至 Application Insights,这是一个良好的起点。然而,对于每天构建代理的团队而言,仍存在两个缺口。第一个缺口出现在开发阶段:开发者在修改提示词(prompt)或工具后,希望在本地笔记本电脑上,无需部署项目,即可在数秒内查看该单次运行的跨度(spans)。第二个缺口出现在部署之后:代理所有者需要一个共享仪表板,展示运行次数、延迟百分位、令牌用量、工具延迟及错误信息,并希望能使用与其余数据相同的语言查询原始跨度。