设计人机交互的 39 项原则
人工智能系统引入了传统设计惯例未涵盖的独特界面挑战,主要源于其非确定性特征。相同的输入可能产生不同的输出,使得产品质量不仅取决于模型能力,还依赖于其他因素。关键的交互问题包括:确定人工智能应在何时建议、询问或采取行动;如何表征不确定性;以及生成的答案应附带何种证据。这些问题对于用户评估输出、从错误中恢复以及保持对决策的责任至关重要。核心设计目标是帮助用户恰当地依赖人工智能。该框架整合了人机交互、混合发起系统、自动化信任以及负责任人工智能的研究成果,转化为实用的设计原则。其依据包括前沿模型规范、混合发起交互研究,以及来自谷歌、IBM 等公司的现有人工智能原则。微软的指南,尤其是关于人工智能故障的指南,也具有显著影响力。该框架强调设计能够阐明系统角色、使输出可理解且可验证、保留用户控制权、支持修正并在必要时限制自主性的界面。概率基础承认人工智能模型更接近概率服务而非固定函数,因此需要设计能够应对输出变异性。期望设定涉及明确陈述人工智能的能力与局限,通过指导解决“空白画布”问题,并将输出框定为起点而非最终裁决。校准的信任通过将用户依赖与系统可靠性对齐来实现,具体方法包括利用来源信息、优先采用证据而非置信度分数,并使验证过程简便。透明性确保在需要时推理过程和证据可供检查,而控制与能动性则通过使编辑和覆盖操作变得直观来实现。优雅的失败策略帮助用户从不确定性和错误中恢复,协同创作则将人工智能输出视为需要塑造的草稿。负责任的自主性根据利害关系和权限对人工智能行动进行约束,而持续的依赖则涉及对质量和随时间变化的持续治理。