영국 남성이 CSAM을 생성하는 데 AI를 사용하여 18년 형을 선고받다.

27세 영국 남성 휴 넬슨은 AI를 사용하여 아동 성 착취 자료를 생성한 죄로 18년형을 선고받았다. 넬슨은 Daz 3D라는 AI 모델링 소프트웨어를 사용하여 실제 어린이의 사진을 아동 성 착취 자료로 조작했다. 그는 16건의 아동 성 착취 혐의로 유죄 판결을 받았으며, 이는 영국에서 최초의 이러한 유형의 기소였다. 넬슨은 온라인에서 이러한 이미지를 판매하고 특정 아동 성 착취 자료를 생성하도록 위촉받아 약 6,500달러를 벌었다. 그는 채팅방에서 이러한 이미지를 판매하려고 하다가 경찰관에게 붙잡혔으며, 그의 창조물의 충격적인 내용을 설명했다. 판사는 이러한 이미지를 "참혹하고 역겨운" 것으로 묘사하고, 이러한 이미지가 실제로 아동을 성착취하게 만들었는지 알 수 없다는 우려를 표명했다. 경찰은 넬슨의 기기에서 13세 미만의 아동을 성착취하라는 내용의 텍스트 메시지를 찾아냈으며, 세계 각지에 있는 용의자와 피해자들이 있었다. 이 사건은 AI를 사용하여 아동 성 착취 자료를 생성하는 증가하는 추세의 일부분으로, 미국에서도 유사한 사건이 보고되었다. 위스콘신 주의 한 남성은 AI를 사용하여 13,000개 이상의 아동 성 착취 이미지를 생성한 혐의로 70년형을 받을 위기에 처해 있다. 세계 최고의 AI 회사들은 이러한 소프트웨어가 아동 성 착취 자료를 생성하는 것을 막기 위해 노력하겠다고 약속했다. AI를 사용하여 아동 성 착취 자료를 생성하는 것은 이러한 추세에 대응하기 위해 엄격한 규제와 법 집행 노력이 필요하다는 우려를 불러일으키고 있다.