前 Google DeepMind 研究员也警告称,人工智能... 笔记

前 Google DeepMind 研究员也警告称,人工智能可能“杀死所有人类”。但 Meta 的扎克伯格认为,安全应由每家 AI 公司自行负责。

前 Google DeepMind 员工加入其他人工智能研究人员的行列,警告人工智能可能对人类构成生存威胁。Bilal Chughtai 表示,人工智能有可能导致大规模死亡,而阻止这一风险的时间正在流逝。此前,Anthropic 的研究人员也表达了类似的担忧,其中一人指出,人工智能在十年内杀死所有人类的可能性显著。这些警告凸显了公众对先进人工智能能力的日益忧虑。相比之下,Meta 首席执行官马克·扎克伯格反对呼吁协调放缓人工智能发展的呼声。他主张,各个人工智能公司均有动力和责任感确保其技术安全。扎克伯格认为,每个实验室都有责任也有激励以安全的节奏开发人工智能。他以 Meta 因安全原因推迟其 Muse 人工智能代理的发布为例,说明其做法。扎克伯格主张优先构建安全的人工智能模型,而非具备递归自我改进能力的系统。他建议将计算资源用于服务人类,而非加速自我改进。不过,他也承认独立评估者和顾问的价值,并表示 Meta 已在使用此类人员。最终,扎克伯格认为,维持权力平衡是实现积极未来的关键。