OpenAI 和 Anthropic 近期向众议院国土安全委员会工作人员介绍了其新型具备网络能力的 AI 模型。此类简报代表了立法者首次就这些先进模型带来的网络安全威胁(尤其是对关键基础设施的威胁)与 AI 公司进行接触。Anthropic 因其 Mythos Preview 模型能够快速识别并利用安全漏洞,而推迟了该模型的公开发布。OpenAI 则对其 GPT-5.4-Cyber 模型采取分阶段发布策略,两家公司均向联邦机构开放其技术访问权限。保密简报涵盖了前沿模型的最新进展及其对关键基础设施网络安全的潜在影响,其中包括对中国 AI 发展的关切。众议院国土安全委员会主席安德鲁·加巴拉诺强调,行业与政府之间的合作对于应对不断演变的威胁格局至关重要。另一次关于越狱 AI 模型的简报展示了其被滥用的潜力,凸显了亟需加强 AI 监管的紧迫性。立法者在目睹这些强大工具如此容易被操纵用于有害目的后,表达了深切担忧。AI 技术的快速进步与国会对其理解和监管的缓慢步伐形成鲜明对比,进一步加剧了这种焦虑。这些强大工具落入错误人员之手的风险,尤其令人恐惧。
axios.com
Exclusive: OpenAI, Anthropic meet with House Homeland Security behind closed doors on cyber threats
Create attached notes ...
