Нерассказанная эксплуатация работников за кулисами больших языковых моделей

"Scale AI, компания, основанная Александром Вангом, привлекла более 1 миллиарда долларов венчурного капитала, но история создания компании менее известна. Компания является огромной фирмой по маркировке данных, играющей решающую роль в разработке технологии искусственного интеллекта. Компании, занимающиеся искусственным интеллектом, нуждаются в больших объемах данных для обучения своих моделей, и они часто обращаются к интернету в качестве источника этих данных. Однако эти данные могут содержать вредный контент, и компании используют человеческих работников для маркировки и классификации этих данных, чтобы фильтровать вредные ответы. Этот процесс известен как обучение с подкреплением от обратной связи человека (RLHF). Сотни тысяч низкооплачиваемых работников, в основном с онлайн-платформ "облачных работ", вносят свой вклад в этот процесс, но они часто подвергаются злоупотреблениям и получают низкую оплату. Отчет Оксфордского института интернета подчеркивает недобросовестную деловую практику этих платформ, включая отсутствие механизмов оплаты, сверхурочную работу и плохие контракты. Работники на этих платформах сообщили, что они травмированы контентом, который они должны просматривать, и они не защищены законами о заработной плате или не получают консультаций. Злоупотребление этими работниками является серьезной проблемой в разработке технологии искусственного интеллекта, и она должна быть решена через изменения политики и повышение осведомленности. Распространяя информацию об этих проблемах, мы можем работать над более ответственной и безопасной разработкой технологии искусственного интеллекта."