Armadilhas de Copyright" Podem Informar Escritores Se um AI Roubou Seu Trabalho

Um leitor anônimo cita um relatório da MIT Technology Review: Desde o início do boom de IA gerativa, os criadores de conteúdo argumentam que seu trabalho foi extraído para modelos de IA sem seu consentimento. Mas até agora, era difícil saber se um texto específico realmente foi usado em um conjunto de dados de treinamento. Agora, eles têm uma nova maneira de provar isso: "armadilhas de direitos autorais" desenvolvidas por uma equipe do Imperial College London, pedaços de texto oculto que permitem que os escritores e editores marquem sutilmente seu trabalho para detectar posteriormente se ele foi usado em modelos de IA ou não. A ideia é semelhante às armadilhas que foram usadas por detentores de direitos autorais ao longo da história - estratégias como incluir locais falsos em um mapa ou palavras falsas em um dicionário. [...] O código para gerar e detectar armadilhas está atualmente disponível no GitHub, mas a equipe também pretende construir uma ferramenta que permita às pessoas gerar e inserir armadilhas de direitos autorais elas mesmas. "Há uma completa falta de transparência em termos de qual conteúdo é usado para treinar modelos, e acreditamos que isso está impedindo encontrar o equilíbrio certo [entre as empresas de IA e os criadores de conteúdo]", diz Yves-Alexandre de Montjoye, professor associado de matemática aplicada e ciência da computação no Imperial College London, que liderou a pesquisa. As armadilhas não são infalíveis e podem ser removidas, mas De Montjoye diz que aumentar o número de armadilhas torna significativamente mais desafiador e intensivo em recursos removê-las. "Se eles podem remover todas elas ou não é uma questão aberta, e isso provavelmente será um jogo de gato e rato", disse ele.