Anthropic 承诺采用独立 AI 评估者,主张放缓开发... 笔记

Anthropic 承诺采用独立 AI 评估者,主张放缓开发速度。英伟达首席执行官则希望“尽可能快”。

Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)在旧金山的一场会议上呼吁放缓人工智能发展。他提议嵌入第三方评估者,协调民主国家之间的安全标准,并最终实现全球协调。与此同时,英伟达首席执行官黄仁勋敦促企业“尽可能快地运行”,并反对出台新法规。黄仁勋认为,人工智能公司应在发布前独立确保产品安全。前总统唐纳德·特朗普呼应了黄仁勋的观点,称对人工智能的担忧是“骗局”,这将有利于中国。OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)承认人工智能模型进展迅速,并强调需要加强监测和安全的严谨性。他表示,公众有正当理由担心人工智能可能失控以及权力集中问题。谷歌 DeepMind 的联合创始人支持阿莫迪的方法,微软首席执行官萨提亚·纳德拉(Satya Nadella)则支持更广泛的第三方测试和安全措施,同时发布了内部人工智能开发指南。投资者迈克尔·巴里(Michael Burry)将这些呼吁斥为自利之举,他认为大型语言模型尚未达到通用人工智能水平。他相信竞争有利于当前领导者,而警告不过是针对首次公开募股的炒作。前 Meta AI 主管杨立昆(Yann LeCun)和人工智能伦理学家蒂姆尼特·格布雷(Timnit Gebru)也表达了怀疑,认为呼吁放缓是虚伪的。然而,一些人如 CNN 评论员范·琼斯(Van Jones)仍表示担忧,指出缺乏明确方向,以及离职的人工智能伦理学家发出的警告的严肃性。