Les propagandistes étrangers continuent d'utiliser ChatGPT dans des campagnes d'influence.

Les opérations de propagande et d'ingénierie sociale chinoises utilisent ChatGPT pour créer des publications sur les réseaux sociaux, des commentaires et stimuler l'engagement sur des plateformes comme TikTok, Facebook, Reddit et X. OpenAI a démantelé quatre opérations d'influence secrètes chinoises qui utilisaient ChatGPT pour générer du contenu sur divers sujets, notamment la politique américaine et un jeu vidéo taïwanais. Les commentaires générés visaient à susciter un discours politique trompeur en prenant position des deux côtés de questions sensibles. Selon Ben Nimmo, chercheur principal chez OpenAI, la Chine utilise une gamme croissante de tactiques dans des opérations secrètes qui ciblent de multiples pays et sujets. OpenAI a également démantelé des opérations menées par la Russie, l'Iran et la Corée du Nord, mais les opérations chinoises étaient particulièrement remarquables pour combiner opérations d'influence, ingénierie sociale et surveillance. Ce n'est pas la première fois que du contenu généré par l'IA est utilisé dans des campagnes d'influence en ligne, les chercheurs ayant trouvé des preuves de telles activités depuis 2019. OpenAI a travaillé pour perturber ces opérations, y compris une opération iranienne qui utilisait ChatGPT pour créer des articles politiques et des commentaires sur de faux sites d'information et des plateformes de réseaux sociaux. Malgré les efforts déployés pour perturber ces opérations, l'utilisation de l'IA générative est susceptible de rendre la création de campagnes d'influence plus facile et plus abordable à l'avenir. Cependant, Ben Nimmo d'OpenAI note que de meilleurs outils ne signifient pas nécessairement de meilleurs résultats pour ces opérations. À mesure que l'IA générative continue de s'améliorer, elle est susceptible de poser un défi croissant pour la détection et l'atténuation des campagnes d'influence en ligne.