加里·马库斯论本周人工智能戏剧
OpenAI 被指控在涉及纳维 - 斯托克斯方程的数学竞赛中作弊。据报道,其投入的计算资源远超所设奖金。人们怀疑 OpenAI 可能使用或训练于参与该竞赛的数学家的研究成果。这引发了对 OpenAI 可能窃取其模型(如 Codex 和 ChatGPT)用户知识产权的担忧。与此同时,Anthropic 正面临内部争议,一名员工公开辞职。该员工表达了对公司日益鲁莽的人工智能开发态度的关切。尽管如此,一名现任 Anthropic 研究人员同意前员工的评估。他认为,人工智能在未来十年内对人类构成生存威胁的可能性相当大。他承认 Anthropic 缺乏确保超级智能对齐的明确方案。作者批评这种程度的警报是不合理的,即使人工智能风险确实存在。他主张,此类措辞表明 Anthropic 更像是一个邪教,而非一个理性的组织。作者认为,离开此类群体的前员工仍可能表现出类似邪教的思维模式。