外国のプロパガンダ工作員が、影響力を行使するキャンペーンでChatGPTを使い続けている

中国のプロパガンダと社会工学的な工作活動は、ChatGPTを利用して、TikTok、Facebook、Reddit、Xなどのプラットフォームでソーシャルメディアの投稿やコメントを作成し、エンゲージメントを促進しています。OpenAIは、ChatGPTを使用して米国の政治や台湾のビデオゲームなど、さまざまなトピックに関するコンテンツを生成していた、4つの中国の秘密工作を阻止しました。生成されたコメントは、ホットな問題の両方の立場を取り、誤解を招くような政治的議論を煽ることを目的としていました。OpenAIの主任調査員であるベン・ニモ氏によると、中国は複数の国とトピックを標的とする秘密工作において、ますます幅広い戦術を使用しています。OpenAIは、ロシア、イラン、北朝鮮からの工作も阻止しましたが、中国の工作は、影響力行使、社会工学、監視を組み合わせている点で特に注目に値しました。オンライン影響力キャンペーンでAI生成コンテンツが使用されたのはこれが初めてではなく、研究者は2019年以来、そのような活動の証拠を発見しています。OpenAIは、これらの工作を阻止するために取り組んでおり、その中には、ChatGPTを使用して偽ニュースサイトやソーシャルメディアプラットフォームで政治的な記事やコメントを作成していたイランの工作も含まれています。これらの工作を阻止する努力にもかかわらず、将来的には生成AIの使用により、影響力キャンペーンの構築がより容易になり、費用対効果が高くなる可能性があります。しかし、OpenAIのベン・ニモ氏は、より良いツールが必ずしもこれらの工作にとってより良い結果を意味するとは限らないと指摘しています。生成AIが進化し続けるにつれて、オンライン影響力キャンペーンを検出し、緩和することは、ますます大きな課題となる可能性があります。