Сваруп Читлур и Сид Кодвани рассказывают об опыте DoorDash по созданию внутренней платформы GenAI. Они обсуждают ключевые архитектурные решения, переход от готовых решений к моделям с открытым исходным кодом, работу с шлюзами LLM и агентов, а также балансировку точности, задержки и стоимости для более чем 5000 внутренних пользователей. Сиддхарт Кодвани, Сваруп Читлур.