AI 研究员 Jacob Coxon 从 Anthropic 辞职，警告称 OpenAI 和 Anthropic 等 AI 公司正不负责任地加速迈向自我进化的超级智能。他表示，这些公司内部许多人私下担忧，AI 可能在十年内引发生存风险。Coxon 的辞职帖文引发了广泛关注，凸显了业界对 AI 开发速度的内部忧虑。这种情绪也得到其他 AI 从业者的共鸣，他们坦言生存风险令其夜不能寐。关于 AI 安全与开发速度的紧迫讨论，正逐渐在硅谷 AI 社区成为常态。部分研究人员认为，AI 造成广泛危害甚至终结人类文明的可能性相当可观。Coxon 特别批评 Anthropic 启动了自我进化 AI 的竞赛，其驱动力源于对“不可避免性”的信念。他指出，若能推迟开发，可将 AI 风险降至零，但这需要行业领导者采取果断行动。Coxon 提议将重心从原始经济价值转向惠及人类的实际应用，例如医疗领域。他还指出，大规模失业是潜在致命超级智能的前兆。Coxon 呼吁那些因 AI 快速进步而感到无力者，应倡导透明化与发声行动。