将被拒绝的选项保留在你的代理人决策日志中 笔记

将被拒绝的选项保留在你的代理人决策日志中

活动日志记录代理执行的操作,但决策日志还应记录被考虑和拒绝的选项。若缺少被拒绝的选项,审查者看到的是一条简化的路径,无法反映实际的决策过程。这种遗漏会阻碍信任建立与问题恢复,因为在不重构整个会话的情况下难以对决策提出质疑。执行历史虽有价值,但与决策上下文不同。拟议的决策记录将选择与执行分离,并为被拒绝的选项包含"revisit_when"字段。这表明被拒绝的选项在特定条件下可能适用。界面应采用渐进式披露,从总体概览逐层提供具体细节。当执行失败时,必须将决策与执行结果分开记录,以免暗示所选操作成功。配套验证器可确保决策日志的完整性,检查上下文、证据、带有理由的被拒绝选项及其重访条件,以及执行详情。该验证能突出遗漏之处,为审查工具提供稳定的操作基础。在将此模式设为默认之前,建议开展涉及操作员使用不同日志格式审查代理工作的研究。该研究应衡量解释的准确性、恢复时间以及详细信息的有用性。被拒绝的选项对于理解决策边界至关重要,提供了质疑、修复及从代理轨迹中学习所需的反事实上下文。这些提议旨在提升 AI 代理决策的透明度与可审计性。