외국 선전가들이 영향력 캠페인에서 ChatGPT를 계속 사용하고 있습니다.

중국의 선전과 사회 공학 작전은 ChatGPT를 활용하여 TikTok, Facebook, Reddit, X 등과 같은 플랫폼에서 소셜 미디어 게시물, 댓글을 생성하고 참여를 유도해 왔습니다. OpenAI는 ChatGPT를 사용하여 미국 정치 및 대만 비디오 게임을 포함한 다양한 주제에 대한 콘텐츠를 생성하는 4개의 중국 비밀 영향력 작전을 방해했습니다. 생성된 댓글은 뜨거운 이슈에 대해 양쪽 입장을 취함으로써 오해를 불러일으키는 정치적 담론을 일으키는 것을 목표로 했습니다. OpenAI의 수석 연구원인 벤 님모에 따르면, 중국은 여러 국가와 주제를 대상으로 하는 비밀 작전에서 점점 더 다양한 전술을 사용하고 있습니다. OpenAI는 또한 러시아, 이란, 북한의 작전을 방해했지만, 중국 작전은 영향력 작전, 사회 공학, 감시를 결합한 점에서 특히 주목할 만했습니다. 이는 온라인 영향력 캠페인에 AI 생성 콘텐츠가 사용된 첫 번째 사례가 아니며, 연구자들은 2019년부터 이러한 활동의 증거를 발견했습니다. OpenAI는 이러한 작전을 방해하기 위해 노력해 왔으며, 여기에는 ChatGPT를 사용하여 가짜 뉴스 사이트 및 소셜 미디어 플랫폼에서 정치 기사 및 댓글을 생성한 이란 작전도 포함됩니다. 이러한 작전을 방해하려는 노력에도 불구하고, 생성형 AI의 사용은 미래에 영향력 캠페인을 더 쉽고 저렴하게 구축할 수 있게 할 가능성이 높습니다. 그러나 OpenAI의 벤 님모는 더 나은 도구가 반드시 이러한 작전에 더 나은 결과를 가져다주는 것은 아니라고 지적합니다. 생성형 AI가 계속 발전함에 따라, 온라인 영향력 캠페인을 탐지하고 완화하는 데 점점 더 큰 과제를 제기할 가능성이 높습니다.