DEV Community 日本語
フォロー
AIエージェントはいつ停止すべきか?
この記事は、エージェントシステムにおける任意のアクション制限の非効率性に対処するため、進捗を認識する実行コントローラーを提案しています。エージェントに単に最大ステップ数を設定しても、タスク完了を保証したり、リソースの無駄を防いだりすることはできないと論じています。代わりに、実行を停止するためには、よりインテリジェントなシステムレベルの意思決定プロセスが必要であると主張しています。提案されたアーキテクチャは、エージェントを、アクションをゲートし進捗を評価するコントローラーから分離します。このコントローラーは、証拠付きのタスク完了、停滞を特定するための実際的な進捗、および残りの予算という3つの主要なシグナルを追跡します。例えば、新しい要件が満たされていない状態で同じソースを3回検索した場合、停滞を示すことになります。コントローラーは、完了、続行、再計画、または不完全な停止のいずれを行うかを決定します。このルールベースのポリシーは、各シナリオで異なる結果をもたらします。重要なのは、完了した要件や予算を含むコントローラーの状態は、再起動に対応できるように耐久性がある必要があるということです。MVPとしては、PostgreSQLをレコード用に使用し、決定論的なポリシーチェックを行う小さなエージェントランタイムが提案されています。このアプローチの有効性は、固定制限ポリシーおよび停滞認識ポリシーと比較してテストされます。検証されたタスク成功率、成功タスクあたりのコスト、レイテンシ、および早期停止などのメトリックが評価に使用されます。目標は、エージェントの信頼性を損なうことなく、無駄な作業を削減することです。最終的に、エージェントシステムの次のステップは、より多くの作業が有用であるかをインテリジェントに決定する周辺システムを構築することです。このアーキテクチャは、たとえ作業量が少なくなることを意味する場合でも、より意図的で効率的なエージェントの行動を可能にすることを目指しています。