RSS InfoQ
Подписаться
Uber создает шлюз GenAI, зеркалирующий API OpenAI, для поддержки более 60 сценариев использования LLM
"Uber создал единую платформу для обслуживания больших языковых моделей (LLM) от внешних поставщиков и самохостинговых, и решил дублировать API OpenAI для помощи с внутренним внедрением. GenAI Gateway обеспечивает согласованный и эффективный интерфейс и обслуживает более 60 различных вариантов использования LLM в разных областях. Автор: Рафал Ганкарз".