Ausländische Propagandisten setzen weiterhin ChatGPT in ihren Beeinflussungskampagnen ein.

Chinesische Propaganda- und Social-Engineering-Operationen nutzen ChatGPT, um Social-Media-Beiträge und Kommentare zu erstellen und die Interaktion auf Plattformen wie TikTok, Facebook, Reddit und X zu fördern. OpenAI hat vier verdeckte chinesische Beeinflussungsoperationen unterbrochen, die ChatGPT zur Generierung von Inhalten zu verschiedenen Themen, darunter US-Politik und ein taiwanesisches Videospiel, nutzten. Die generierten Kommentare zielten darauf ab, irreführende politische Diskurse zu schüren, indem sie beide Seiten brisanter Themen einnahmen. Laut Ben Nimmo, leitender Ermittler bei OpenAI, setzt China eine wachsende Bandbreite an Taktiken in verdeckten Operationen ein, die sich gegen mehrere Länder und Themen richten. OpenAI hat auch Operationen aus Russland, dem Iran und Nordkorea unterbrochen, aber die chinesischen Operationen waren besonders bemerkenswert, da sie Beeinflussungsoperationen, Social Engineering und Überwachung kombinierten. Dies ist nicht der erste Fall, in dem KI-generierte Inhalte in Online-Beeinflussungskampagnen eingesetzt werden, denn Forscher haben seit 2019 Beweise für solche Aktivitäten gefunden. OpenAI arbeitet daran, diese Operationen zu unterbinden, darunter eine iranische Operation, die ChatGPT zur Erstellung von politischen Artikeln und Kommentaren auf gefälschten Nachrichtenseiten und Social-Media-Plattformen nutzte. Trotz der Bemühungen, diese Operationen zu unterbrechen, wird der Einsatz von generativer KI es in Zukunft wahrscheinlich einfacher und erschwinglicher machen, Beeinflussungskampagnen zu erstellen. Allerdings merkt Ben Nimmo von OpenAI an, dass bessere Werkzeuge nicht unbedingt bessere Ergebnisse für diese Operationen bedeuten. Da sich die generative KI ständig verbessert, wird sie wahrscheinlich eine wachsende Herausforderung bei der Erkennung und Eindämmung von Online-Beeinflussungskampagnen darstellen.