Pinterest 홈 피드용 조건부 학습 검색 확장 노트

Pinterest 홈 피드용 조건부 학습 검색 확장

Pinterest의 홈 피드는 추천 시스템을 개선하여 사용자에게 관련성 높은 핀을 제공하는 것을 목표로 합니다. 초기에는 사용자와 아이템을 별도로 인코딩하는 투 타워 모델이 사용되었지만, 사용자의 다양한 관심사를 처리하는 데 어려움이 있었습니다. 이를 해결하기 위해 명시적인 검색 컨텍스트에 대한 사용자 임베딩을 조건화하는 Conditional Learned Retrieval(CLR)이 개발되었습니다. 이전 연구에서는 알림을 위한 CLR 부트스트래핑과 홈 피드를 위한 멀티 임베딩 프레임워크에 통합하는 것을 탐구했습니다. 이 블로그는 Pinterest 홈 피드를 위한 더 넓은 검색 시스템으로 CLR이 발전한 과정을 자세히 설명합니다.CLR은 관심사, 핀, 보드와 같은 새로운 조건 유형을 통합하여 다양한 검색 후보를 지원하도록 확장되었습니다. 관심사 조건은 처음에 사용자 신호에서 부트스트래핑되었고 나중에 LLM 생성 관심사로 강화되었습니다. 핀 조건은 참여한 핀을 클러스터링하고 임베딩으로 표현하여 CLR이 레거시 생성기를 대체할 수 있도록 했습니다. 보드 조건은 핀-보드 그래프에서 랜덤 워크를 사용하고 보드를 임베딩으로 표현하여 생성되었습니다.모델 기반은 시퀀스 모델링과 개선된 조건 표현을 사용하여 확장되었습니다. Conditioned User Sequence Transformer는 사용자 행동과 조건 토큰을 함께 인코딩하여 CLR을 시퀀스 인식하도록 도입되었습니다. 이는 전역 사용자 시퀀스에 대해 훈련된 대규모 트랜스포머를 통합하는 Foundation Model 기반 CLR 아키텍처로 발전했습니다. 이 기반 모델은 사용자 및 아이템 타워 모두에 대해 공유 핀 임베딩을 사용하고 대조 정렬 손실을 통합합니다.단일 모델 내에서 이기종 조건을 처리하기 위해 조건 표현이 통합되어 중복 작업을 줄였습니다. Unified CLR은 다양한 조건 유형을 하나의 모델로 통합하여 여러 조건을 수락하고 누락된 기능을 대체했습니다. 라우터 단순화는 라우팅 로직을 다양한 임베딩 유형에 대한 사전 정의된 슬롯을 가진 조건 불가지론적 슬롯 아키텍처로 리팩토링하는 것을 포함했습니다.CLR의 훈련 효율성은 훈련 처리량을 두 배로 늘린 무손실 인프라 최적화를 통해 향상되었습니다. 요청 수준 훈련은 배치 내에서 동일한 사용자 기능을 중복 제거하며 추가 최적화가 진행 중입니다. 이 시스템은 이제 프로덕션 규모에서 다중 조건 검색을 효율적으로 처리하여 더 다양하고 관련성 높은 콘텐츠를 통해 사용자 참여를 개선합니다.
CdXz5zHNQW_6wtn6E8XMD.png