AI 模型常在不揭示推理过程的情况下自信地给出答案，导致用户对其产生隐性的信任。这种缺乏透明度的状况使得识别错误变得困难，并阻碍了用户理解。当前将 AI 开发过程深藏不露的做法存在缺陷，因为它将感知到的智能置于真正的可信度之上。真正的信任是通过“信任校准”建立的，即用户能够评估 AI 得出其结论的过程。一款公开展示其推理步骤的 AI 产品，使用户能够审查、质疑甚至中断该过程。这种透明度，结合 AI 对不确定性的承认，促成了更可靠且协作性的交互。虽然展示复杂的内部运作可能令人望而生畏，但选择性透明——突出关键的决策点和存疑领域——至关重要。AI 模型本质上被设计为生成看似合理的输出，这可能导致过度自信的猜测，尤其是在实用性优先的实际应用中。这种无论确定性如何都总是提供答案的倾向，会在用户中引发“自动化偏见”。为应对这一问题，需要一种“约束机制”或框架，对 AI 的行为施加规则和限制。该约束机制迫使 AI 在不确定时予以承认，这是建立准确信任的关键要素。与其强制要求解释，不如将 AI 编程为暂停并寻求澄清。这种选择性预测允许 AI 在不确定时保持沉默，防止用户盲目接受错误信息。最终，能够阐述其置信水平并承认不知的 AI，将培育出更负责任且值得信赖的用户体验。