Pinterest의 검색 엔진은 사내 플랫폼인 Manas가 지원하는 임베딩 검색에 크게 의존합니다. Manas는 다양한 제품 표면에서 수십억 개의 임베딩을 지원하지만, 메모리 비용과 모델 표현력 측면에서 확장성 문제를 겪고 있습니다. 이를 해결하기 위해 세 가지 주요 이니셔티브를 통해 검색 스택을 발전시키고 있습니다. 첫째, Scalar Quantization 및 Product Quantization과 같은 양자화 기술을 사용하여 임베딩 인덱스의 메모리 사용량과 서빙 비용을 크게 줄입니다. 둘째, SSD 기반 서빙, 특히 PQ 양자화를 사용한 SPANN을 구현하여 고가의 RAM에서 인덱스를 이동시키면서도 낮은 지연 시간을 유지합니다. 이 접근 방식은 인메모리 솔루션에 비해 메모리 사용량과 CPU 비용을 극적으로 줄입니다. 셋째, Manas는 제한적인 투 타워 모델에서 멀티 임베딩 검색으로 전환하여 더 풍부한 점수 함수와 더 미묘한 유사성 평가를 가능하게 합니다. 이러한 전환은 후보의 단일 벡터 표현을 넘어선 후반 상호 작용 모델을 가능하게 합니다. 향후 계획에는 SPANN 및 SPFresh를 통한 비용 최적화, 멀티 임베딩 지원 강화, GPU 기반 검색 시스템 탐색이 포함됩니다. 이러한 발전은 Pinterest를 위한 확장 가능하고 비용 효율적이며 혁신적인 임베딩 검색 아키텍처를 만드는 것을 목표로 합니다.