AI 编程正从信任模型转向约束其能力范围” 笔记

AI 编程正从信任模型转向约束其能力范围”

近年来,关于 AI 辅助编程的讨论大多集中在模型上:哪个模型生成的代码质量最高?哪个模型能理解最大的代码库?哪个模型犯错的概率最低?哪个模型的上下文窗口最大?这些问题依然重要,但更有趣的事情正在发生。围绕编码代理的基础设施开始假设,模型不应是最终值得信任的组件。相反,人们正围绕模型构建日益复杂的系统,以控制其可访问的内容、可执行的操作、这些操作如何获得批准,以及其结果如何被验证。