UX Collective | Medium 中文 笔记

笔记线程

CdXz5zHNQW_tV7W3j48v6.png
CdXz5zHNQW_J3SIwVrtrc.png
AI 模型常在不揭示推理过程的情况下自信地给出答案,导致用户对其产生隐性的信任。这种缺乏透明度的状况使得识别错误变得困难,并阻碍了用户理解。当前将 AI 开发过程深藏不露的做法存在缺陷,因为它将感知到的智能置于真正的可信度之上。真正的信任是通过“信任校准”建立的,即用户能够评估 AI 得出其结论的过程。一款公开展示其推理步骤的 AI 产品,使用户能够审查、质疑甚至中断该过程。这种透明度,结合 AI 对不确定性的承认,促成了更可靠且协作性的交互。虽然展示复杂的内部运作可能令人望而生畏,但选择性透明——突出关键的决策点和存疑领域——至关重要。AI 模型本质上被设计为生成看似合理的输出,这可能导致过度自信的猜测,尤其是在实用性优先的实际应用中。这种无论确定性如何都总是提供答案的倾向,会在用户中引发“自动化偏见”。为应对这一问题,需要一种“约束机制”或框架,对 AI 的行为施加规则和限制。该约束机制迫使 AI 在不确定时予以承认,这是建立准确信任的关键要素。与其强制要求解释,不如将 AI 编程为暂停并寻求澄清。这种选择性预测允许 AI 在不确定时保持沉默,防止用户盲目接受错误信息。最终,能够阐述其置信水平并承认不知的 AI,将培育出更负责任且值得信赖的用户体验。
CdXz5zHNQW_OnZN60s2UP.png
2025 年企业软件市场出现下滑,引发了关于人工智能(AI)影响的激烈辩论:有人预测软件将因此被淘汰,也有人期待其实现适应。这一时期被戏称为"SaaSpocalypse",核心争议在于 AI 究竟是终结软件,还是仅仅对其进行转型。作者认为,AI 不会杀死软件,而是将 usher in( usher in 此处译为“开启”)一个自主性大幅提升的时代,从根本上改变用户交互方式。用户不再进行手动输入,而是描述期望达成的结果,AI 则在后台管理复杂的、多步骤的流程。界面正从屏幕向对话式 AI 转变,应用程序演变为在此新主层背后运行的特定任务代理。此次转型的重要性堪比从键盘到触摸屏的跨越。AI 代理需要深厚的业务背景知识,而这正是昂贵且宝贵的部分,而非 AI 模型本身。正是这种背景知识使得 AI 能够执行诸如月度结账等复杂任务,大幅减少人工工作量。设计师的角色正从追求像素级完美的屏幕设计,转向定义 AI 代理用于决策的判断系统。这包括将品牌指南、无障碍标准及合规要求编码进 AI 行为之中。重点转向设计人机交接点,即 AI 承认不确定性并将控制权交还人类的节点,以确保信任感和自然的用户体验。随着设计领域承担起对 AI 自主行为及其可信度的所有权,诸如“背景设计师”和"AI 治理专家”等新角色将应运而生。AI 并非取代软件,而是推动其向自主性演进,使用户感觉如同将工作委托给一个知识渊博的实体。这与云技术此前对软件的变革如出一辙,而设计师此刻正处于一个令人振奋的节点,正在定义人类如何与自主系统协作。
CdXz5zHNQW_Z9bQLmSnnb.png
CdXz5zHNQW_ZLbmNFWXpc.png
文本探讨了人工智能自信断言的危险影响,尤其是当其与既有的品牌信任相结合时。在设计人工智能产品的用户引导流程时,曾就采用诸如虚假加载动画等欺骗性技巧以取悦用户展开辩论,最终因担心误导用户而予以否决。这凸显了一个核心问题:人类往往更信任自信而非准确性,而人工智能正是利用了这一倾向,以与正确答案同样确凿的语气提供错误信息。与人类不同,人工智能模型在犯错后可能变得更加自信,缺乏我们习以为常并赖以识别的自然犹豫信号。诸如隐藏取消订阅按钮之类的欺骗模式会操纵用户行为,但在用户尚未赢得信任之前就使其相信人工智能值得信赖,则是一种更为阴险的欺骗形式。历史上,自信却错误的个体往往会受到惩罚,因此对自信保持信任是一种合理的策略。然而,人工智能的规模效应及其不可读性放大了这一风险。权威偏见导致人们基于信息来源而信任信息,即便这与他们自身的判断相悖,历史实验已对此有所证明。产品化的专家被剥离了人类的犹豫,能够大规模提供结论,但这却移除了可信度的关键要素。利用受信任的品牌名称来推广人工智能的公司,可能因单次自信却错误的输出而挥霍数十年积累的信誉。谷歌因 Bard 的错误导致股价大幅下跌,以及加拿大航空因其聊天机器人编造政策而承担法律责任,均说明了严重的财务与声誉代价。信任的不对称性意味着其建立缓慢,却可能迅速崩塌,而人工智能通过在受信任品牌旗下以前所未有的规模犯错,加剧了这一风险。
CdXz5zHNQW_Lip4n5VBXa.jpeg
科幻作品给我们带来了两种相互竞争的人工智能形象:孤独的神谕者和拥挤的废品场,而后者最终成真了。《星球大战》系列设想了一个拥有廉价、专业且无处不在机器的未来,这与当今人工智能的部署方式类似。相比之下,《星际迷航》系列设想的是一个单一、全知的计算机,这并不反映当前人工智能的现状。正如《星球大战》中所展现的机器智能的普及正在取得胜利,人工智能变得平凡并融入日常生活。一台能用的机器,是没人再停下来欣赏的机器,这从我们使用家电和工具时不惊叹它们的能力中就能看出。衡量一项技术的到来不是惊奇,而是它成为我们生活一部分的速度,而人工智能通过在各种业务职能中的广泛应用通过了这一考验。数据支持了废弃物场的愿景,88%的组织在至少一个业务职能中使用人工智能,且趋势是向更专业化、更有界限的工具发展。人工智能的生产性转变并非向单一通用引擎转变,而是向嵌入各种任务中的小型专用工具发展,这也反映在人工智能在各行业的部署中。智能功能能获得的最高赞誉是没人称它为智能,这一点从我们使用翻译服务和其他AI工具而不惊叹其能力中可见一斑。随着人工智能日益普及,设计透明、负责任且值得信赖的系统至关重要,并考虑创造能够代表我们行动的机器所带来的伦理影响。
CdXz5zHNQW_3EzVN1HuL1.png
当前的信息系统往往引发混乱与无序,致使创意流失、项目搁浅。斯塔福德·比尔(Stafford Beer)的赛伯网(cybernetics)概念提供了解决方案,其核心在于构建能够持续生存并适应变化的系统。一个核心概念是“多样性”(variety),即衡量系统适应力与环境变化程度的指标。可行系统(viable systems)不同于传统应用,具备根据用户目标与高难度任务进行适应的灵活性。这类系统需要两个关键结构:递归(recursion),即系统内部包含更小的可行系统;以及系统 - 元系统(System-Meta System),用于实现自主协调与监控。在写作应用的语境下,每个组件均可视为一个可行系统。系统 1(System 1)代表基本功能单元,如文本控件。系统 2(System 2)负责协调这些单元,有效管理空间分配。系统 3(System 3)处理外部输入,响应用户操作,例如创建或关闭控件。然而,真正的可行性还需要系统 4(System 4)和系统 5(System 5),而当前应用往往缺失这两者。系统 4 监控工作本身,调整系统 3 以满足特定目标,例如使多样性过高的文本更加突出。系统 5 则调节系统 4 的行为,以确保整个系统的可行性。这涉及评估系统 4 的适应是否真正导向成功。例如,若系统 4 将多样性过高的文本加以突出,系统 5 便会检查用户是否实际上已对此作出回应。软件中缺失系统 4 和系统 5,正如社会中缺失相应机制,导致形成层级结构而非和谐适应。系统 4 还可处理诸如“孤儿”(unreferenced information,未引用的信息)和“既视感”(déjà vu,重复文档)等问题,通过使其在视觉上更加突出来解决。归根结底,系统的真正目的由其行动定义,而非其宣称的意图。通过实施这些赛伯网原则,我们可以构建真正帮助用户实现目标的信息系统。此类系统将致力于促进高效工作、清晰性、可发现性与独特性。
CdXz5zHNQW_6dSBC1mig0.gif
CdXz5zHNQW_6gttvY7GY0.jpeg
CdXz5zHNQW_IgKAokpNDH.png
设计师常陷入接受“足够好”方案的惯性,这侵蚀了设计的权威性。这种倾向源于对快速修补的渴望,而非解决根本问题。作者回顾了一段个人经历:一个有缺陷的知识库系统仅被表面优化,而未进行彻底审计,结果导致支持工单量激增,凸显了选择局部解决方案的代价。认识到这一模式是第一步,真正的挑战在于打破它。未加审视的习惯会持续存在,并随时间推移变得愈发昂贵。设计权威的受损并非源于缺乏影响力,而是未能“掌控问题的高度”。所谓“掌控高度”,即清晰界定自身职责,并捍卫工作的需求。这种“掌控”与资历或头衔无关,而是聚焦于在日益不确定的环境中做出高质量决策的能力。设计职业存在不同的高度:界面层、产品层、系统层和组织层。每一层都伴随着更大的不确定性和更高的试错成本。设计能力的精进,是从学习手册过渡到在没有明确答案的情况下做出决策。在更高高度取得成功的关键差异在于判断力——即在信息不完整时导航并做出关键决断的能力。这种判断力往往比获取新技能更为关键,因为领导者若在新层级仍沿用旧有做法,便会遭遇失败。在界面层,“掌控”意味着即使没有直接权力阻止细节被削减,也能识别出谁的问责范围因此受到损害。在产品层,则涉及定义并拥有正确的成果,而不仅仅是完成任务。这需要深入理解产品成功的真正含义。
CdXz5zHNQW_uf4N4CWYsi.jpeg
人工智能正通过引入机器作为中间受众,从根本上改变设计格局。数十年来,以人为中心的设计已足够,其焦点 solely 在于人。如今,人工智能系统在内容到达人类用户之前,会对其进行解读、总结并据此采取行动。这一转变意味着设计师必须考虑这一机器受众,从而带来新的挑战:在优化人工智能体验的同时,不忽视人类需求。以往的中间媒介如搜索引擎和社交平台主要引导用户,而大型语言模型(LLMs)则主动代表用户处理信息,成为首位读者。危险在于过度优化这些人工智能代理,可能牺牲原本预期的人类体验。正如社交媒体曾将参与度置于连接之上,人工智能优化也可能导致内容易于被机器处理,却无法引起人的共鸣。例如,一篇为人工智能引用而完美结构化的医疗文章,对患者而言仍可能难以理解。同样,在招聘领域,为人工智能筛选而优化的简历,可能会掩盖候选人真实的人类招聘者眼中的资质。生成式人工智能使得制作界面等表面元素变得极其容易,却掩盖了良好设计中至关重要的隐形方面。这包括间距系统、组件架构、交互模式、信息架构和可访问性等关键要素,它们对产品的长期生命力至关重要。虽然人工智能降低了可见元素的成本,却指数级提升了这些幕后设计决策的价值。最终,人工智能生成的丰富性凸显了人类判断力的稀缺。设计的未来需要在机器可解释性与人类对个性、惊喜和情感的诉求之间取得平衡,确保人工智能增强而非取代人类的判断。
CdXz5zHNQW_7xgwxHK3I5.png
CdXz5zHNQW_eRV0Ho3qy0.png