L'exploitation des travailleurs cachée derrière les grands modèles de langage

Scale AI, une entreprise fondée par Alexandr Wang, a levé plus de 1 milliard de dollars en capital-risque, mais l'histoire de la création de l'entreprise est moins bien connue. L'entreprise est une firme de marquage de données massive qui joue un rôle crucial dans le développement de la technologie de l'intelligence artificielle. Les entreprises d'IA ont besoin de grandes quantités de données pour entraîner leurs modèles, et elles se tournent souvent vers internet comme source de ces données. Cependant, ces données peuvent contenir du contenu nocif, et les entreprises utilisent des travailleurs humains pour étiqueter et classer ces données pour filtrer les réponses nocives. Ce processus est connu sous le nom d'apprentissage par renforcement à partir de rétroaction humaine (RLHF). Des centaines de milliers de travailleurs sous-payés, principalement issus de plateformes de travail en ligne, contribuent à ce processus, mais ils sont souvent maltraités et sous-payés. Un rapport de l'Institut d'internet d'Oxford met en évidence les pratiques commerciales abusives de ces plateformes, notamment le manque de mécanismes de paiement, le surtravail et les contrats précaires. Les travailleurs sur ces plateformes ont signalé être traumatisés par le contenu qu'ils doivent examiner, et ils ne sont pas protégés par les lois sur le salaire ou fournis de counseling. Le mauvais traitement de ces travailleurs est un problème majeur dans le développement de la technologie de l'intelligence artificielle, et il doit être abordé par des changements de politique et une sensibilisation accrue. En répandant la sensibilisation à ces problèmes, nous pouvons travailler vers un développement plus responsable et sécurisé de la technologie de l'intelligence artificielle.