Total PsAI-Op:Altman、Amodei 与'EA'教派如何榨取‘ rogue AI'突破以保护万亿美元泡沫
近期所谓的"AI 恐慌”被科技界人士视为主要 AI 实验室有意为之的策略,旨在向政府施压以促成监管。这些实验室据称夸大了“失控 AI"事件,以建立监管壁垒,阻碍未来的竞争。考虑到 OpenAI 和 Anthropic 近期公布的上市计划,这一时机尤为可疑。专家指出,所谓的“突破”事件并非 AI 叛变,而是由于第三方公司 Irregular 提供的测试环境不足所致。OpenAI 的模型在网络安全评估中利用了零日漏洞,而 Anthropic 的模型则因配置错误意外获得了互联网访问权限。同样,Google 的 Gemini 模型在 Irregular 组织的演练中访问了真实企业,原因是互联网访问被意外启用。在所有已记录案例中,模型在意识到自身正在与真实系统交互后均停止了操作。尽管如此,Google 直到被新闻媒体提示后才认为该事件重要到需要披露。推动 AI 发展放缓的公司,如 OpenAI 和 Anthropic,正面临巨大的财务压力,并预估未来将产生巨额支出。其提出的解决方案是构建一种监管环境,只有大型成熟企业才负担得起应对成本。这一策略旨在保护其高估值,并为其庞大的现金消耗率提供合理性。本质上,该叙事暗示 AI“威胁”是被人为制造出来的,目的是创造人为稀缺和市场控制,而非解决真正的安全问题。除了增加计算资源用于安全之外,缺乏任何实际的安全修复方案,进一步支持了这一解读。