RSS 下一个网络
关注
观点:信任一个未经核实的AI代理,就像把钥匙交给一个喝醉了的研究生。
人工智能代理(AI agents)现已在全球核心业务职能中得到应用。很快,这些代理就可能安排我们的生活、做出关键决策,并代表我们进行谈判。这个前景令人兴奋且雄心勃勃,但也引发了一个问题:到底谁在监督它们?超过一半(51%)的公司已经部署了AI代理,Salesforce首席执行官马克·贝尼奥夫(Marc Benioff)的目标是到今年年底拥有十亿个代理。尽管它们的影响力日益增强,但验证测试却明显缺失。这些代理在银行和医疗保健等敏感领域被赋予了关键职责,却没有得到适当的监督。AI代理需要……