Иностранные пропагандисты продолжают использовать ChatGPT в кампаниях по оказанию влияния

Китайская пропаганда и операции по социальной инженерии использовали ChatGPT для создания постов в социальных сетях, комментариев и повышения вовлеченности на таких платформах, как TikTok, Facebook, Reddit и X. OpenAI пресекла четыре китайские тайные операции влияния, в которых ChatGPT использовался для создания контента на различные темы, включая политику США и тайваньскую видеоигру. Сгенерированные комментарии были направлены на разжигание вводящих в заблуждение политических дискуссий путем освещения спорных вопросов с обеих сторон. По словам Бена Ниммо, главного исследователя в OpenAI, Китай использует все больше тактик в тайных операциях, нацеленных на разные страны и темы. OpenAI также пресекла операции из России, Ирана и Северной Кореи, но китайские операции были особенно примечательны тем, что сочетают в себе операции влияния, социальную инженерию и наблюдение. Это не первый случай использования контента, сгенерированного искусственным интеллектом, в онлайн-кампаниях влияния, причем исследователи обнаружили свидетельства такой деятельности с 2019 года. OpenAI работает над пресечением этих операций, включая иранскую операцию, в которой ChatGPT использовался для создания политических статей и комментариев на фейковых новостных сайтах и в социальных сетях. Несмотря на усилия по пресечению этих операций, использование генеративного искусственного интеллекта, вероятно, сделает создание кампаний влияния проще и дешевле в будущем. Однако Бен Ниммо из OpenAI отмечает, что лучшие инструменты не обязательно означают лучшие результаты для этих операций. Поскольку генеративный искусственный интеллект продолжает совершенствоваться, он, вероятно, создаст растущую проблему в обнаружении и смягчении последствий онлайн-кампаний влияния.