我们构建了一套定制技术栈，以便在 Cloudflare 的基础设施上高效运行大型语言模型。本文探讨了为实现高性能 AI 推理的可访问性所必需的工程权衡与技术优化。