Help Net Securityとのこのインタビューで、meshIQのエンジニアリング担当グローバルヘッドであるGourab Basu氏は、AIエージェントシステムにおけるガバナンスについて議論しています。彼は、エージェントは作業中に自身のパスを変更できるため、プロンプトに記述された指示だけではエージェントの行動を制御するには不十分であると主張しています。真の制御とは、大規模な返金を一時停止して人間の承認を得るなど、本番システムに到達する前に提案されたアクションをチェックすることです。彼はまた、何が壊れるかについてもカバーしています…