AI GatewayのAuto RouterでAIコストを削... ノート

AI GatewayのAuto RouterでAIコストを削減

Cloudflare AI Gatewayは、エッジにデプロイされた分類器を使用してリクエストの複雑さを評価し、最適なモデルを選択するモデルルーターを新たに搭載しました。期待される出力品質とトークンコストのバランスを取ることで、組織はパフォーマンスを維持しながらAIの支出を大幅に削減できます。
CdXz5zHNQW_fZbaoum8Bx.png