Uber создает шлюз GenAI, зерка... Заметка
RSS InfoQ

Uber создает шлюз GenAI, зеркалирующий API OpenAI, для поддержки более 60 сценариев использования LLM

"Uber создал единую платформу для обслуживания больших языковых моделей (LLM) от внешних поставщиков и самохостинговых, и решил дублировать API OpenAI для помощи с внутренним внедрением. GenAI Gateway обеспечивает согласованный и эффективный интерфейс и обслуживает более 60 различных вариантов использования LLM в разных областях. Автор: Рафал Ганкарз".