我们内部构建的 AI 工程栈——基于我们交付的平台。 笔记

我们内部构建的 AI 工程栈——基于我们交付的平台。

我们基于自身对外发布的产品构建了内部 AI 工程栈。这意味着已有 2000 万次请求通过 AI Gateway 路由,处理了 2410 亿个 token,推理任务在 Workers AI 上运行,服务于超过 3683 名内部用户。以下是我们的实现方式。
CdXz5zHNQW_ZgSptYqzFK.png