RSS Etsy Engineering | Code as Craft
Подписаться
Сокращение продолжительности эксперимента с предсказанными контрольными переменными
Etsy использует онлайн-эксперименты для улучшения опыта покупателей и продавцов. Проведение экспериментов может занимать недели, что препятствует быстрой итерации. Методы снижения дисперсии, такие как CUPED, помогают сократить продолжительность эксперимента. Etsy первоначально внедрила CUPED в 2021 году, добившись скромного снижения дисперсии. Затем они внедрили CUPAC, основанный на CUPED, используя машинное обучение для прогнозирования показателей результатов. CUPAC использует данные, собранные до эксперимента, в нелинейной модели для улучшения прогнозов. Это повышает точность и скорость результатов эксперимента. Etsy обучает модели LightGBM с более чем 100 признаками, собранными до эксперимента, для CUPAC. Внедрение CUPAC привело к значительному увеличению снижения дисперсии. Это привело к сокращению средней продолжительности эксперимента на 3 дня, что позволило проводить более частые тесты. Etsy планирует расширить CUPED и изучить дополнительные методы снижения дисперсии.