大規模言語モデル背後の未知の労働者搾取

アレクサンドル・ワンによって設立されたScale AIは、10億ドル以上のベンチャーキャピタルを調達していますが、この会社が誕生した経緯はあまり知られていません。この会社は、AI技術の開発において重要な役割を果たす巨大なデータラベル付け会社です。AI企業はモデルをトレーニングするために大量のデータが必要であり、インターネットをデータ源としてよく利用します。しかし、このデータには有害なコンテンツが含まれることがあり、企業はこのデータをフィルタリングするために、人間の労働者にデータをラベル付け・分類させることがあります。このプロセスは、人間のフィードバックからの強化学習（Reinforcement Learning from Human Feedback, RLHF）と呼ばれています。数十万人の低賃金労働者、主にオンライン「クラウドワーク」プラットフォームから、このプロセスに貢献していますが、彼らはしばしば虐待され、低賃金で働かされていると言われています。オックスフォード・インターネット・インスティテュートの報告書は、これらのプラットフォームのビジネス慣行の問題点、たとえば支払いメカニズムの欠如、過労、劣悪な契約条件などを強調しています。これらのプラットフォームの労働者は、レビューしなければならないコンテンツによってトラウマを負ったと報告しており、賃金法の保護を受けたり、カウンセリングを受けたりすることはできません。こうした労働者の扱いは、AI技術の開発における大きな問題であり、政策の変更や認識の向上を通じて解決する必要があります。これらの問題について認識を広めることで、より責任ある安全なAI技術の開発に向けて取り組むことができます。