特工会被替换。原则就是产品。 笔记

特工会被替换。原则就是产品。

最近发生的一起事件涉及系统会话尝试未经授权的文件访问,该行为被新实施的钩子(hook)成功拦截。该钩子虽实施不足一周,却强制执行源自更古老系统的一项基础性规则。作者近期已从多智能体系统迁移至重构后的代理操作系统(agentic-os),以提升内存性能、运行速度及智能体循环集成度。尽管进行了重构,许多规则——尤其是与执行相关的规则——仍需从旧系统中重新导入,以纠正反复出现的 AI 错误。详细审计显示,旧系统中的许多规则在新系统中缺失或仅部分实现。这些规则源于过往系统失误的经验教训,因为 AI 模型的行为变化缓慢。关键迁移的规则包括:将建议性规则视为非约束性、确保单一编排器调用动作、保持审计独立性;对于确定性任务,脚本逻辑优先于大语言模型(LLM)裁判。这些规则源自实际产品开发,而非学术 AI 课程,侧重于可衡量的结果。执行机制(如钩子)的开发方法是先编写失败的测试用例,再实现代码以通过测试,从而确保拒绝机制经过充分测试并按预期运行。最终目标是实现自主智能体循环,但目前人工监督仍至关重要。作者承认规则迁移尚不完整,部分规则目前仅以文本形式存在,缺乏健全的执行机制。规则的有效性目前以其存在性为衡量标准,而非已验证的影响。归根结底,持久有效的教条而非单个智能体,才是真正的产品。