Pinterest는 Nexus라는 새로운 경량 랭킹 모델을 개발했으며, 이는 기존의 투 타워(two-tower) 아키텍처를 넘어섭니다. 이 모델은 클릭률(pCTR), 좋은 클릭률(pGCTR30), 그리고 아웃바운드 클릭률(pOCTR)을 공동으로 예측합니다. 이러한 예측을 효율적으로 지원하기 위해 각 태스크별로 임베딩이 분할됩니다. Nexus 시스템은 크로스 어텐션(cross-attention) 및 시퀀스 모델링과 같은 더 복잡한 모델 아키텍처를 가능하게 합니다. 그러나 요청당 수십만 개의 후보를 스코어링하는 것은 상당한 지연 시간 및 비용 문제를 야기합니다. 이를 해결하기 위해 빠른 투 타워 예측과 더 풍부한 쓰리 타워(three-tower) 예측을 결합한 3 타워 공동 학습 모델이 설계되었습니다.이 아키텍처는 효율적인 캐싱 및 내적(dot-product) 예측을 위해 원래의 쿼리 및 핀(Pin) 타워를 유지합니다. 사용자 시퀀스와 후보 피처 간의 어텐션을 사용하는 세 번째 크로스 타워와 이러한 임베딩을 결합하는 인터 모듈(inter module)을 도입합니다. 이 모델은 공동으로 학습되어 모든 후보에 대한 빠른 스코어와 일부에 대한 더 정확한 스코어를 가능하게 합니다. 이 접근 방식은 컴퓨팅을 가장 영향력 있는 곳에 할당함으로써 성능과 지연 시간을 균형 있게 맞춥니다. 크로스 타워는 고차 상호작용을 포착하고, 인터 모듈은 모든 태스크에 대한 공유 표현을 생성합니다.학습 과정은 보조적인 투 타워 공동 학습 손실보다 주요 쓰리 타워 손실에 더 높은 가중치를 부여하는 다중 태스크 손실 함수를 사용합니다. 이를 통해 쓰리 타워 예측이 주요 최적화 목표가 되도록 하면서 빠른 투 타워 예측의 품질을 유지합니다. 계산 비용을 관리하기 위해 상당한 서빙 최적화가 구현되었습니다. 여기에는 요청당 계산을 피하기 위해 핀 타워에서 핀 피처를 사전 처리하고, BF16을 사용한 저정밀도 추론을 활용하는 것이 포함됩니다. 이러한 최적화는 P99 모델 추론 시간을 극적으로 단축하여 쓰리 타워 접근 방식을 대규모로 실용적으로 만들었습니다. 결합된 변경 사항은 상당한 오프라인 손실 감소와 긍정적인 온라인 비즈니스 지표로 이어졌습니다.