Ежегодный хакатон CodeMosaic от Etsy продемонстрировал амбициозный проект по разработке системы для обучения машинного обучения с памятью и онлайн-обучения. Команда поставила себе целью обновлять веса модели поэтапно, тем самым экономя затраты и улучшая метрики. В первый день они планировали свой подход, разделившись на подкоманды, сфокусированные на реальном времени обучающих данных, службе обучения и оценке. Второй день был посвящен реализации планов, и команды столкнулись с проблемами, включая форматирование данных и выбор модели. Команда по оценке предложила проведение конкурса, чтобы сравнить работу непрерывно обучающейся модели с моделью, обученной пакетно. Третий день принес презентации и обсуждения потенциального воздействия, включая оценку годового экономического эффекта в размере 212 тыс. долларов США только для моделей рекламы. Команда признала препятствия на пути к внедрению системы в производство, включая инфраструктуру и обеспечение качества, но выразила оптимизм по поводу будущего сложных архитектур ML.
etsy.com
The So-fine Real-time ML Paradigm
