Altman 和 Amodei 关于 AI“在任何提示下都不... 笔记

Altman 和 Amodei 关于 AI“在任何提示下都不安全”的时刻

拉尔夫·纳德(Ralph Nader)的《任何速度都不安全》(Unsafe at Any Speed)虽以科维雅(Corvair)为焦点,但其核心论点在于:汽车制造商而非驾驶员应对安全问题负责。如今,人工智能行业正重演底特律历史上的辩护策略,将错误归咎于用户。这正如过去汽车制造商将责任推给驾驶员,或所谓的“方向盘后的疯子”,以规避产品重新设计。同样,人工智能公司将失败归因于“人工智能素养”或提示工程,而非解决产品固有的缺陷。主张用户应更具知情权的观点,正是汽车行业陈旧的“驾驶员错误”辩护的回响。这种策略,如同警示标签,历史上曾被用来限制责任,而无需对产品进行根本性改进。核心问题在于:人工智能对错误的易感性,如同汽车的机械故障,需要设计层面的解决方案,而不仅仅是用户教育。“二次碰撞”概念——即汽车内饰设计可减轻碰撞冲击——凸显了界面设计在管理人工智能错误中的重要性。界面设计,包括可解释性与用户控制,对于减轻人工智能错误输出的危害至关重要。正如碰撞测试已成为汽车安全的标准,界面也需经过严格测试,以量化并解决“错误答案生存率”问题。人工智能行业,如同此前的汽车行业,往往掌握着关于失败的内部数据,却对监管机构和公众不透明。归根结底,无论是汽车还是人工智能,安全责任在于创造者,他们必须构建稳健的系统与界面。
CdXz5zHNQW_z5IhcMYipg.png