演示:揭开黑箱:利用 Kiji Inspector 实现 A... 笔记
InfoQ 中文

演示:揭开黑箱:利用 Kiji Inspector 实现 AI 智能体工具选择的关键可解释性

Hannes Hapke 分享了 Dataiku 开源工具 Kiji Inspector 如何将稀疏自编码器(SAEs)直接应用于决策令牌,以揭示智能体选择特定工具的原因。他超越了表层的思维链叙事,探讨了因果消融、通过修补版 vLLM 引擎进行层激活提取,以及面向软件架构师和高级工程领导者的生产监控工作流。作者:Hannes Hapke
CdXz5zHNQW_l5d8ShL7Ln.jpeg