Etsy accorde la priorité à la sécurité et à la confiance dans son marché pour aider les entrepreneurs créatifs. Avec plus de 100 millions d'articles uniques et 7 millions de vendeurs actifs, Etsy emploie une équipe de Confiance et Sécurité consacrée à l'application des politiques et à la suppression de contenu potentiellement violant. Pour améliorer les capacités de détection, Etsy utilise l'apprentissage automatique, y compris des modèles d'apprentissage supervisé, exploitant des signaux multimodaux (textuels et d'images) provenant des annonces. L'architecture du modèle comprend des encodeurs de texte et d'images pour apprendre des représentations et emploie une classe neutre pour les annonces non violentes. Pour résoudre le problème de déséquilibre des données, la perte focale est utilisée. L'évaluation du modèle implique une formation hors ligne et un déploiement en production via des tests A/B. Etsy continue d'itérer et d'améliorer son système de détection en déployant des candidats prometteurs hors ligne et en surveillant les performances. En conséquence, plus de 100 000 violations ont été identifiées et supprimées, complétant d'autres méthodes de détection. Etsy s'engage à utiliser des approches innovantes, y compris les grands modèles de langage, pour renforcer ses mesures de sécurité.