RSS DEV コミュニティ

9router: Claude Code、Cursor、またはCopilotを、利用可能な無料ティア経由でルーティングする

Follow
9routerはローカルプロキシで、単一のOpenAI互換エンドポイントを公開し、さまざまなAIプロバイダーへのリクエストをルーティングします。Copilot、Gemini、Ollamaなど、異なる無料プランのアカウントにリクエストを分散させることでコスト管理に役立ちます。 コア機能である「Combos」は、複数のプロバイダーをラウンドロビンまたはスティッキーラウンドロビンで利用し、スループットの向上を可能にします。 「RTK」は、'ls'や'git diff'のようなツールからのノイズの多い出力をLLMに戻し、トークンを節約します。「ケイブマンモード」は、指示プロンプトを圧縮してトークン使用を減らします。 「Antigravity」はCopilotのトラフィックを傍受し、9ルーター経由でルーティングするため、MITMセットアップが必要です。 アーキテクチャには、OpenAIフォーマットと異なるプロバイダーのネイティブAPI間で適応するトランスレーターが含まれています。 この仕組みにより、AIツールの利用におけるリソース配分やコスト管理が効率的に実現できます。 9ルーターはCloudflareワーカーを使ってチームアクセスをエッジサイドに展開することも可能です。ただし、利用規約違反の可能性や変動無料ティアのパフォーマンスには注意が必要です。最終的に、9routerはAIコーディングツールの活用を最適化するための包括的なソリューションを提供し、よりアーキテクチャ的なコスト管理アプローチを提供します。
favicon
dev.to
9router: route Claude Code, Cursor, or Copilot through whichever free tier you've got
Create attached notes ...