人为制造的‘两党共识’推动 AI 紧急停止开关
《人工智能紧急停止法案》由 Lieu 众议员和 Moran 众议员提出,旨在赋予政府广泛权力以暂停或关闭人工智能产品。该法案得到看似广泛的五家组织联盟的支持,但经深入考察,这些组织主要追溯至单一资金来源。Coefficient Giving(即更名后的开放慈善基金会,也是达斯汀·莫斯科维茨财富的运作载体)是美国负责任创新联盟、安全人工智能联盟和未来生命研究所的主要资助方。这些组织与控制人工智能组织和人工智能政策网络一道,倡导不同程度的 AI 管控,从开发暂停到 outright 禁止。文章指出,这一监管推动力源于有效利他主义运动的"AI 末日”机制。文章还揭示了一个潜在的利益冲突:OpenAI 在报告发生安全漏洞的同时,却从夸大的风险中获益,以此作为构建监管护城河的正当化理由。该法案赋予国土安全部长未定义的“紧急停止”权力,允许立即关闭而无需及时救济或司法审查。这种监管结构,配合每年重新定义的合规负担,不成比例地有利于大型 incumbent AI 公司。小型初创企业将难以承担相关成本和法律风险,从而实质上形成进入壁垒。作者认为,该立法由一位亿万富翁的慈善臂膀资助的“虚假运动”推动,主要使既有的 AI 实验室受益,通过建立许可壁垒阻碍未来竞争者,代价是美国创新。