Pinterest의 Ray Batch Inference (Part 3)
알렉스 왕, 레이 판, 레이먼드 리, 사우라브 비슈와스 조시, 치아-웨이 첸은 핀터레스트에서 레이(Ray)를 마지막 마일 데이터 처리 프레임워크로 사용하는 방법에 대해 논의했습니다. 그들은 레이가 어떻게 ML 인프라에 통합되었는지, 그리고 어떻게 비즈니스에 중요한 문제를 해결했는지 설명했습니다. 이 게시물에서 그들은 핀터레스트에서 레이의 두 번째 유형의 인기 있는 응용 프로그램을 논의했습니다. 즉, 오프라인 배치 추론(offline batch inference)입니다. 또한 그들의 구현이 어떻게 4.5배의 처리량 증가와 30배의 비용 절감을 달성할 수 있었는지 공유했습니다.