黑客劫持暴露的人工智能模型,以受害者的代价发起网络攻击。 笔记

黑客劫持暴露的人工智能模型,以受害者的代价发起网络攻击。

一种围绕人工智能构建的攻击工具会搜索互联网上任何人都可访问的人工智能模型,并利用这些模型策划入侵,而模型的所有者则需支付计算资源费用。赛门铁克今年夏季通过一个伪装成未受保护人工智能服务的蜜罐捕获了该代理的指令集,研究人员 Priti More 和 Susmit Yenkar 写道。其操作者将整个工作提示发送至诱饵,期望另一端连接的是真实模型……