人工智能代理的能力日益增强,例如编写代码和管理日历,这要求它们能够以安全的方式持有和管理资产。当前的代理钱包解决方案往往存在安全隐患,使其面临资产 catastrophic 损失的风险。作者指出,人工智能代理所能执行的操作与其能够安全持有的资产之间存在显著差距,这对人工智能基础设施构成了重大风险。为解决这一问题,作者提出了代理钱包应具备的五项基本属性,以确保真正的托管安全。
首先,钱包必须不可被完全排空(non-drainable),即单个密钥的泄露不会导致所有资金损失。这通过阈值签名实现,需要多个独立方或设备共同授权才能完成交易。其次,钱包必须受策略约束(policy-bound),支出限额和规则应在链上强制执行,而非仅依赖代理客户端代码,从而防止代理自行绕过限制。
第三,代理执行的操作必须可验证(attested),生成可验证的密码学证明,并将其锚定在公共账本上,且独立于代理的操作者。第四,代理必须具备记忆能力(remembering),能够在会话间携带上下文和知识,以避免重复错误并理解自身当前状态。最后,代理必须可被终止(killable),允许外部人类控制或风险系统立即且不可覆盖地停止其运行。
如果上述五项属性中有任何一项缺失,该代理钱包即被视为不安全,类似于易受攻击的热钱包。作者还介绍了一个基于 Zcash 的参考实现,具备阈值签名、链上策略执行、操作验证、语义记忆以及硬件紧急关闭开关等功能,且全部开源。
dev.to
5 properties of agent custody
Create attached notes ...
