Сообщество RSS DEV

9router: маршрутизируйте Claude Code, Cursor или Copilot через любой бесплатный тарифный план, который у вас есть

Follow
9router — это локальный прокси, который предоставляет одну совместимую с OpenAI конечную точку, направляющую запросы к различным AI-провайдерам. Он помогает управлять расходами, распределяя запросы между разными бесплатными аккаунтами, такими как Copilot, Gemini и Ollama. Основная функция, «Комбо», позволяет использовать несколько провайдеров по круговому или липкому круговому системе, обеспечивая повышенную пропускную способность. «RTK» фильтрует шумные выходы из таких инструментов, как 'ls' и 'git diff', прежде чем вернуть их в LLM, сохраняя токены. «Режим пещерного человека» сжимает командные запросы для снижения использования токенов. «Antigravity» перехватывает трафик Copilot для маршрутизации через 9router, требуя настройки MITM. Архитектура включает ретрансляторы для адаптации между форматом OpenAI и нативными API разных провайдеров. Такая схема позволяет эффективно распределять ресурсы и управлять затратами при использовании инструментов ИИ. 9router также может быть развернут на периферии с помощью Cloudflare рабочих для командного доступа. Однако пользователям следует быть осведомлены о возможных нарушениях TOS и производительности переменных свободных уровней. В конечном итоге 9router предлагает комплексное решение для оптимизации использования инструментов программирования на базе ИИ, предлагая более архитектурный подход к управлению затратами.
favicon
dev.to
9router: route Claude Code, Cursor, or Copilot through whichever free tier you've got