文本探讨了人工智能自信断言的危险影响，尤其是当其与既有的品牌信任相结合时。在设计人工智能产品的用户引导流程时，曾就采用诸如虚假加载动画等欺骗性技巧以取悦用户展开辩论，最终因担心误导用户而予以否决。这凸显了一个核心问题：人类往往更信任自信而非准确性，而人工智能正是利用了这一倾向，以与正确答案同样确凿的语气提供错误信息。与人类不同，人工智能模型在犯错后可能变得更加自信，缺乏我们习以为常并赖以识别的自然犹豫信号。诸如隐藏取消订阅按钮之类的欺骗模式会操纵用户行为，但在用户尚未赢得信任之前就使其相信人工智能值得信赖，则是一种更为阴险的欺骗形式。历史上，自信却错误的个体往往会受到惩罚，因此对自信保持信任是一种合理的策略。然而，人工智能的规模效应及其不可读性放大了这一风险。权威偏见导致人们基于信息来源而信任信息，即便这与他们自身的判断相悖，历史实验已对此有所证明。产品化的专家被剥离了人类的犹豫，能够大规模提供结论，但这却移除了可信度的关键要素。利用受信任的品牌名称来推广人工智能的公司，可能因单次自信却错误的输出而挥霍数十年积累的信誉。谷歌因 Bard 的错误导致股价大幅下跌，以及加拿大航空因其聊天机器人编造政策而承担法律责任，均说明了严重的财务与声誉代价。信任的不对称性意味着其建立缓慢，却可能迅速崩塌，而人工智能通过在受信任品牌旗下以前所未有的规模犯错，加剧了这一风险。