DZone.com Feed 日本語
フォロー
実行をオプションにする:Agent Substrate を使用した Kubernetes 上での AI エージェントのスケーリング
もし、8つのKubernetesワーカーPodに約250の状態を持つエージェントセッションを多重化し、インメモリまたはファイルシステムの状態を失うことなく、いずれか1つを再アクティブ化できるとしたらどうでしょうか?リポジトリのデモでは、そのサンプルワークロードで30倍以上のアクター対ワーカーの過剰な割り当てが報告されており、サブ秒でのアクティベーションが可能です。これはデモンストレーションであり、本番環境での容量を保証するものではありません。