Когда стоимость запуска нашего ИИ-ревьюера кода удвоилась, мы углубились в использование токенов, чтобы выяснить причину. Узнайте, как мы использовали кэширование промптов и интеллектуальную маршрутизацию моделей, чтобы сократить наши расходы на инференс на 68%, одновременно ускоряя ревью.