前 OpenAI 和 Anthropic 员工关于 AI 末日担忧的言论引发病毒式传播。他称，AI 行业许多人认为 AI 可能在十年内终结人类。OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei，两人均为该员工的前上司，均同意 AI 发展需要放缓。Altman 指出了两种通往灾难的路径：人类失去对 AI 的控制，或强大的 AI 被用于强加单一世界观。他强调 AI 必须服务于人类，安全措施需与能力发展同步。他还警告，AI 垄断可能引发反乌托邦式后果，主张采取平衡策略，避免任何单一实体过度控制。Amodei 也支持放缓而非停止 AI 发展，以避免既错失收益又陷入鲁莽加速。他提议企业以安全为竞争焦点，形成“向上竞赛”。Amodei 特别指出递归自我改进以及 OpenAI-Hugging Face 事件等令人担忧。他的三步计划包括嵌入评估器、就安全标准进行民主协调，以及与威权政府开展全球协调。他承认这些措施将难以实施，但对人类未来而言必不可少。