碎片:4 月 14 日
作者参加了务实峰会,并与 Kent Beck 和 Gergely Orosz 就人工智能(AI)展开讨论。对话涉及将 AI 与过去的技术变革进行类比、敏捷方法、测试驱动开发(TDD),以及在以 AI 为本的行业中生存所需的条件。作者反思了编程中“懒惰”这一美德,强调其在构建高效抽象中的重要性,并引用了 Bryan Cantrill 关于“懒惰”及其与编码相关性的观点。作者担忧,由于 AI 缺乏这种“懒惰”的美德,加之代码生成变得过于容易,可能导致系统过度复杂化。作者分享了自己重构代码以简化其结构的个人经历,并与使用大型语言模型(LLM)可能产生的结果形成对比。文章还介绍了 Jessica Kerr 将测试驱动开发应用于提示代理的案例。作者进一步探讨了 AI 过度自信及其编造信息的倾向,并引用电影《黑暗之星》(Dark Star)作为例证。作者强调,必须教导 AI 系统对其结论保持怀疑态度,尤其是在高风险或不可逆后果的情境下。作者认为,克制——即能够 refrain from action( refrain 意为“克制、 refrain from doing something")——是确保 AI 安全与负责任的自主性的关键能力。