Эволюция платформы поиска эмбеддингов Pinterest
Механизм поиска Pinterest в значительной степени полагается на извлечение вложений, которое обеспечивается их внутренней платформой Manas. Manas поддерживает миллиарды вложений на различных продуктовых поверхностях, но сталкивается с проблемами масштабирования, связанными с затратами на память и выразительностью моделей. Для решения этой проблемы они развивают стек извлечения посредством трех ключевых инициатив. Во-первых, они применяют методы квантования, такие как скалярное квантование и продуктовое квантование, для значительного уменьшения объема памяти индексов вложений и затрат на обслуживание. Во-вторых, они внедряют обслуживание на основе SSD, в частности, используя SPANN с PQ-квантованием, чтобы переместить индексы из дорогой оперативной памяти при сохранении низкой задержки. Этот подход значительно снижает использование памяти и затраты на ЦП по сравнению с решениями, работающими в оперативной памяти. В-третьих, Manas переходит от ограничительных двухбашенных моделей к извлечению нескольких вложений, что позволяет использовать более богатые функции оценки и более тонкие оценки сходства. Этот сдвиг позволяет использовать модели с поздним взаимодействием, выходя за рамки представления кандидатов одним вектором. Будущие планы включают дальнейшую оптимизацию затрат с помощью SPANN и SPFresh, улучшение поддержки нескольких вложений и изучение систем извлечения на основе GPU. Эти достижения направлены на создание масштабируемой, экономически эффективной и инновационной архитектуры извлечения вложений для Pinterest.