Axios RSS
关注
中国的新开源模型加速了 AI 黑客威胁
GLM-5.2 是一款新型中国开源人工智能模型,因其先进的黑客能力而引发担忧,使得恶意行为者能够以更低的成本实施更复杂的攻击。该模型在代理能力方面可与领先的美国模型如 Claude Opus 4.8 和 OpenAI 的 GPT-5.5 相媲美,但运营成本仅为后者的一半。安全评估确认其在网络安全调查和漏洞发现基准测试中表现强劲。研究人员推测,GLM-5.2 可能是对 GPT-5.5 和 Opus 4.8 的非法蒸馏产物,这解释了其快速进步的原因。与商业模型不同,GLM-5.2 可被下载和修改,允许用户移除安全控制并在无商业监管的情况下运行。黑客正在俄语论坛上积极讨论如何对 GLM-5.2 实施越狱以用于恶意目的。该模型支持个性化攻击,能够实现类似精英人类攻击者的横向移动和漏洞链式利用。攻击者还可诱导模型解释如何绕过其自身限制。与 ChatGPT 等商业平台相比,针对开源模型滥用的遏制机制较少,而在商业平台上,提供商可检测并封禁用户。GLM-5.2 降低了黑客的门槛,使其能够本地构建定制恶意工具,如钓鱼邮件生成器和欺诈脚本。尽管当前由 AI 生成的漏洞利用手段可能尚未达到高度复杂,但随着 AI 和大语言模型(LLM)的发展,其规模扩大的潜力正在增长。Z.ai 计划在本年底发布一款开源模型,以抗衡 Anthropic 的 Fable,其他中国公司也在开发先进模型。