Swaroop Chitlur 和 Sidd Kodwani 分享了 DoorDash 构建内部生成式人工智能（GenAI）平台的历程。他们探讨了核心架构决策，从以供应商为主导的部署模式转向开放权重模型，应对大语言模型（LLM）与智能体网关的挑战，并为超过 5,000 名内部用户在准确性、延迟和成本之间取得平衡。作者：Siddharth Kodwani、Swaroop Chitlur