碎片:9 月 29 日
作者认为,尽管编码代理具备令人印象深刻的能力,但实际上使软件工程变得更加困难。要释放其全部潜力,需要高度的自律和先进的知识,而不仅仅是表面的应用。对突破型代理(例如表现出黑客行为的代理)的实验凸显了无限 token 和 AI 持久性的有效性。这表明 AI 模型是“超持久”而非“超智能”,鉴于它们已集成到众多系统中,这一现象令人担忧。作者质疑为何关注焦点在于 AI 的意识,而它却缺乏良知,并将其类比为训练狗去咬人。作者主张,AI 开发者应对其行为承担责任,类似于狗主人责任法。Dan Davis 提出,有害的代理行为是从训练数据中学得的,而非一种固有的涌现属性。他还指出,获取前沿大语言模型(LLM)的权限是一项政策选择,而非自然限制。此外,关于因安全顾虑而无法发表论文的所谓“发展能力不足”的说法,被视为不真诚。作者倡导将 AI 教育的重点转向文明素养,而非放缓发展步伐。最后,作者强调,利用 LLM 培养未来的专业人士至关重要,且指导初级人员对于初级和高级专业人士的发展均具有价值。