RSS Python星球
关注
字形莱夫科维茨:对抗性交流
AI 系统会做出不可预测的错误,因此必须对每一个输出进行验证。这一验证过程的成本可能等同于原始任务本身,从而促使成本被外部化至他人身上。一个关键关切是“反向半人马”现象,即雇主将员工转化为无偿的 AI 验证者。这是因为 AI 输出错误构成一种普遍的外部性,使得由人类完全承担该项工作更为廉价。“代码审查是瓶颈”这一论断凸显了对人类理解的必要性,而不仅仅是技术审查。在竞争环境中,AI 通过让“爬梯者”能够快速生成大量代码,同时将验证负担转嫁给他人,从而为其提供助力;这种动态有利于提示者,却可能导致严重问题,而审查者往往成为替罪羊。AI 还擅长充当“吉什加洛普”(Gish Galloper),以大量谬误淹没对手,尤其在政治话语中。欺诈、垃圾信息和诈骗借助 AI 快速生成令人信服的文本的能力得以实施,并将验证成本外部化给受害者。客户支持机器人常被视为对抗性工具,利用 AI 迅速驳回或拖延客户,优先追求指标而非解决问题。在教育领域,AI 使得作弊广泛蔓延,因为学生将验证工作外部化给教师。尽管有人设想 AI 可用于针对强大实体(如保险公司)的正当申诉,但这些实体的结构性优势往往占据上风。即使 AI 的有益用途也可能升级为军备竞赛,进而导致更差的长期结果。AI 的摘要和问答能力同样可被武器化,尽管阅读行为本身被视为对网站内容更具破坏性。