コードモードが実際に保存するものを測定しました:65,500... ノート

コードモードが実際に保存するものを測定しました:65,500トークン対226

Cloudflareの「コードモード」は、LLMが外部サービス(MCP)を直接呼び出すのではなく、それらと対話するためのコード生成に優れていることを示唆しています。テストでは、LLMがわずか1,000トークンで2,500エンドポイントのAPIを生成できることが実証されました。その後、著者は個人的なタスクを実行しました。それは、進行中のすべてのLinearチケットを取得し、それらの中から「mcp」の出現回数を数えることでした。このタスクは、ツール呼び出しによって実行可能ですが、40回の連続したモデルインタラクションと65,000トークン以上を必要とします。あるいは、10行のスクリプトで、約226トークンで単一のインタラクションで同じことを達成しました。これは、コンテキストサイズとラウンドトリップの両方で大幅な節約となり、実行速度の向上につながります。コストを超えて、スクリプトは優れた精度を提供しました。LLMのカウントは近似値でしたが、スクリプトは正確な結果を提供しました。コードモードの採用における大きな障害は、エージェントがすでにログインしている場合に、各サービスで再認証が必要になることです。これを解決するために、著者は既存の認証情報(クレデンシャル)を活用するagent-codemodeを作成しました。このツールは、マルチサーバーのスクリプトを型付きクライアントで可能にし、繰り返しの認証の必要性を排除します。主なイノベーションは、エージェントが既存の認証情報をシームレスに利用できるようにすることです。このツールには、エージェントの設定に追加できるスキルも含まれており、デフォルトでの使用を奨励しています。主にmacOSでテストされましたが、LinuxおよびWindowsのサポートも部分的に利用可能です。ユーザーのセッションから起動されたプロセスは、これらの認証情報にアクセスできることに注意することが重要です。