RSS クラウドフレア ブログ
フォロー
私たちが社内で構築したAIエンジニアリングスタック — 私たちが提供するプラットフォーム上で
私たちは、出荷している同じ製品を使用して、内部のAIエンジニアリングスタックを構築しました。つまり、AIゲートウェイを介してルーティングされた2000万のリクエスト、処理された2410億のトークン、Workers AI上で実行される推論が、3683人以上の内部ユーザーにサービスを提供するということです。ここでは、私たちがどのようにしてそれを実現したかを説明します。