Pinterestでのレイバッチ推論(パート3)
Pinterestでのラストマイルデータ処理フレームワークとしてRayの使用について、Alex Wang、Lei Pan、Raymond Lee、Saurabh Vishwas Joshi、Chia-Wei Chenが議論しました。彼らは、RayがMLインフラストラクチャーに統合され、ビジネスのクリティカルな問題を解決した方法を説明しました。このポストでは、彼らはPinterestでのRayの第二の一般的なアプリケーションタイプ、オフラインバッチ推論のMLモデルについて議論しました。また、彼らの実装がスループットを4.5倍に向上させ、コストを30倍削減することができたことを共有しました。