RSS Python星球
关注
阿明·罗纳赫:《即将到来的循环》
作者观察到一种日益增长的趋势:在编码代理之上构建系统,形成循环,从而将代理的能力延伸至单个会话之外。这些循环涉及任务队列、机器执行以及一个决定器(harness),该决定器通过修改上下文或将任务发送至另一台机器来判定是否继续执行任务。虽然编码代理内部已存在用于任务的循环,但一种新的外部“决定器层级”循环正在兴起并主导着讨论。作者个人对这种放手式的方法感到困扰,尤其对于自己关心的代码,发现生成的代码过于防御性、复杂,且缺乏强有力的不变量。当前模型倾向于添加过多的局部防御,而非防止不良状态,这一问题似乎正在恶化。循环放大了这种倾向,使得系统更难理解,却显得更为稳健。然而,循环在代码移植、性能探索和安全扫描等领域表现出色,在这些场景中,代码转换或短期存在的工件是目标,生成代码的持久性或可验证性不如探索或转换过程关键。作者将编写持久性代码与此对比,将其比作从“软件作为确定性机器”向“软件作为有机体”的演进。这一转变意味着从深度人类理解转向监控、稳定化,并将系统几乎像生物实体一样对待。退出这种由机器驱动的未来正变得愈发困难,尤其是在安全领域,攻击者和研究人员已在使用循环,迫使防御者适应。竞争压力以及部分团队利用编排技术所展现的速度也将推动采用。最令人担忧的是对这类循环系统可能产生的认知与实践依赖,这引发了关于未来访问权限、成本以及在不借助机器辅助的情况下理解代码能力的疑问。最终,代码库可能在维护上依赖于机器的参与。