내부적으로 구축한 AI 엔지니어링 스택 — 출하하는 플... 노트

내부적으로 구축한 AI 엔지니어링 스택 — 출하하는 플랫폼에서

우리는 내부 AI 엔지니어링 스택을 우리가 제공하는 동일한 제품으로 구축했습니다. 즉, AI 게이트웨이를 통해 라우팅된 2,000만 개의 요청, 처리된 2410억 개의 토큰, Workers AI에서 실행되는 추론이 3,683명 이상의 내부 사용자를 지원하는 것입니다. 우리는 어떻게 이것을 달성했는지 알려드리겠습니다.
CdXz5zHNQW_ZgSptYqzFK.png