Вывод Ray Batch на Pinterest (... Заметка

Вывод Ray Batch на Pinterest (часть 3)

Алекс Ван, Лей Пан, Рэймонд Ли, Саурабх Вишвас Джоши и Чиа-Вей Чен обсудили использование Ray в качестве фреймворка для обработки данных последней мили в Pinterest. Они описали, как Ray был интегрирован в их инфраструктуру машинного обучения и как он решил критические бизнес-задачи. В этом посте они обсудили второй тип популярного применения Ray в Pinterest: офлайн пакетную инференцию моделей машинного обучения. Они также поделились тем, как их реализация смогла обеспечить увеличение пропускной способности на 4,5 раза и экономию затрат в 30 раз.