The Cloudflare Blog на русском
Подписаться
Сократите расходы на ИИ с помощью Автомаршрутизатора AI Gateway
Cloudflare AI Gateway теперь оснащен маршрутизатором моделей, который оценивает сложность запроса с помощью классификатора, развернутого на периферии, для выбора оптимальной модели. Балансируя ожидаемое качество выходных данных и затраты на токены, организации могут значительно сократить расходы на ИИ, сохраняя при этом производительность.