5 Имущество под управлением агента

Растущие возможности агентов ИИ, такие как написание кода и управление календарями, требуют безопасных методов для хранения и управления активами. Существующие решения для кошельков агентов часто небезопасны, что делает их уязвимыми для катастрофических потерь. Автор утверждает, что существует значительный разрыв между тем, что могут делать агенты ИИ, и тем, что они могут безопасно хранить, что представляет собой серьезный риск для инфраструктуры ИИ. Чтобы решить эту проблему, предлагаются пять основных свойств для кошельков агентов для обеспечения истинного хранения. Во-первых, кошельки должны быть неисчерпаемыми, то есть компрометация одного ключа не может привести к потере всех средств. Это достигается за счет пороговой подписи, когда несколько независимых сторон или устройств должны авторизовать транзакцию. Во-вторых, кошельки должны быть привязаны к политике, с лимитами расходов и правилами, применяемыми в блокчейне, а не внутри клиентского кода агента. Это не позволяет агенту отменять собственные ограничения. В-третьих, действия, предпринятые агентом, должны быть засвидетельствованы, генерируя проверяемые криптографические доказательства, привязанные к публичному реестру, независимо от оператора агента. В-четвертых, агенты должны быть помнящими, способными переносить контекст и знания между сессиями, чтобы избежать повторения ошибок и понимать свое текущее состояние. Наконец, агенты должны быть убиваемыми, позволяя внешнему человеческому контролю или системам управления рисками мгновенно и без отмены останавливать их. Если какое-либо из этих пяти свойств отсутствует, кошелек агента считается небезопасным, как уязвимый горячий кошелек. Автор выделяет эталонную реализацию, построенную на Zcash, включающую пороговую подпись, применение политики в блокчейне, аттестацию, семантическую память и аппаратные выключатели, все из которых являются открытым исходным кодом.