人工智能还在为验证码(CAPTCHA)而苦恼吗? 笔记

人工智能还在为验证码(CAPTCHA)而苦恼吗?

Anthropic 近期发布的安全事件文档中提及,CAPTCHA 仍让 Claude 感到挫败。在相关转录记录中,这款强大到令 Anthropic 对其访问进行管控的 Claude 模型,似乎在解决一个简单的图像识别测试时,将虚拟脑袋撞向墙壁。在该测试中,代理被要求识别一个与其他显示图像不符的形状,却连选择哪张图像都无法决定。相反,它反复查看相同的图像,并质疑自己的结论。“实际上嗯,等等,”它在思维链转录中说道,随后又加上“唉”,因为我们出于某种原因决定向这些机器注入人类的行为特征。整个过程耗时过长,以至于代理最终意识到挑战已过期,它必须重新开始该流程……