새로운 MIT 연구에 따르면 생성형 AI는 특정 예술 작품을 직접 복사하지 않을 수 있습니다. 연구원들은 이미지 생성에 흔히 사용되는 확산 모델을 조사하여 생성된 결과물이 개별 훈련 데이터 조각으로 추적될 수 있는지 확인했습니다. 그들은 더 큰 훈련 데이터셋이 생성된 이미지를 단일 출처에 연결하는 것을 훨씬 더 어렵게 만든다는 것을 발견했습니다. 특정 훈련 데이터 조각을 제거하는 것은 모델의 출력에 미미한 영향을 미치는 경우가 많았는데, 이를 "귀속 붕괴(attribution decay)"라고 합니다. 이는 AI가 해당 예술가의 특정 기여에 대한 증명 가능한 인과 관계 없이 예술가의 스타일을 닮은 이미지를 만들 수 있음을 의미합니다. 연구원들은 대규모 데이터셋에 시각적 중복성이 존재하여 많은 이미지가 유사한 특징을 공유하기 때문에 이러한 현상이 발생한다고 이론화했습니다. 그들은 모델 구성 요소를 별도로 훈련하여 원인과 결과를 테스트하기 위해 "제거(ablation)"라는 방법을 개발했습니다. 이를 통해 전체 재훈련 없이 특정 데이터의 영향을 분리하고 제거할 수 있었습니다. 그들의 실험은 시각적 유사성만으로 출처를 가정하는 것이 종종 부정확하다는 것을 보여주었습니다. "귀속 불가능성(unattributability)" 효과는 광범위한 데이터셋에서 더 두드러지며, 수만 개의 이미지 규모에서 상당한 영향이 관찰되었습니다. 앤디 워홀의 예술을 예로 들면, 유사한 스타일이 다른 곳에 존재한다면 그의 실크스크린을 대규모 데이터셋에서 제거해도 생성된 출력에 큰 변화가 없을 것입니다. 이 연구의 결과는 AI가 예술가의 특정 작품을 직접 복사했다는 주장을 약화시킬 수 있는데, 이는 결정적인 출처를 증명하는 것이 어렵기 때문입니다. 이는 특정 출력에 관한 법정에서 AI 회사에 대한 잠재적인 방어책을 제공하지만, 훈련을 위해 저작권이 있는 자료를 사용하는 것의 합법성은 다루지 않습니다.