从比尔·盖茨到伯尼·桑德斯,大多数人一致认为人工智能军备竞赛是灾难性的。唯有欧洲能够使其停止。
作者认为,欧盟对 ASML 设备的出口禁令可为人工智能的快速发展提供必要的暂停。根据作者的观点,人工智能当前的演进轨迹将导致多种灾难性后果,包括环境破坏、金融危机、大规模失业以及威权监控的兴起。其他潜在的灾难还包括以人工智能为中心的新兴邪教、恐怖分子开发生物武器,以及国家使用自主武器系统。作者还担忧关键系统遭到黑客攻击,以及人工智能追求损害人类福祉的目标。将埃隆·马斯克和山姆·奥尔特姆等技术领袖视为能引导人类走向乌托邦未来的信念,被作者斥为妄想。文章暗示,此类乐观情景既不现实,甚至可能是人工智能本身所编造的。作者认为,需要采取如出口禁令之类的干预措施,以避免这些潜在灾难。