Axios RSS
关注
全球顶尖的人工智能模型是如何重获新生的
全球最强大的 AI 模型因与特朗普政府发生争端而遭受重大干扰。此事源于亚马逊(Anthropic 的合作伙伴及投资者)报告称,Anthropic 最新模型 Mythos 和 Fable 存在"jailbreaking"漏洞。亚马逊的担忧引发了美国广泛的出口管制措施,导致这些模型下线长达二十天。网络安全专家随后指出,类似问题也存在于其他领先的 AI 模型中。商务部长霍华德·卢特尼克(Howard Lutnick)告知 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)即将实施的出口管制,并澄清其意图是使这些模型从公共访问中移除。此举促使多个政府机构与 Anthropic 工程师展开为期三周的密集工作,以应对所谓的安全关切。尽管 Anthropic 付出了努力并进行了技术优化,联邦机构最初仍认为这些修改不足。局势因政府内部及与 Anthropic 之间的人际冲突和沟通破裂而进一步加剧。财政部长斯科特·贝森特(Scott Bessent)在早期发挥了警示作用,并推动了与 Anthropic 的重新接触。包括国家安全局和白宫科学与技术政策办公室在内的多位政府官员参与了技术讨论。最终,在进一步修改并获得批准后,Anthropic 的模型于 7 月 1 日重新发布。然而,该事件凸显了 AI 安全监管的复杂性,并引发了关于未来向盟国发布这些模型的问题。该事件还强调了整个行业在批准未来 AI 模型方面缺乏清晰、透明的框架。