«Копирайт-ловушки» могут информировать писателей, если ИИ скопировал их работу

Безымянный читатель цитирует отчет из MIT Technology Review: С начала бума в области генеративного искусственного интеллекта создатели контента утверждают, что их работы были незаконно использованы в моделях ИИ без их согласия. Однако до сих пор было трудно узнать, действительно ли конкретный текст был включен в набор тренировочных данных. Теперь у них есть новый способ доказать это: "ловушки для авторских прав", разработанные командой в Имперском колледже Лондона, скрытые тексты, позволяющие писателям и издателям незаметно маркировать свою работу, чтобы впоследствии обнаруживать, была ли она использована в моделях ИИ или нет. Эта идея похожа на ловушки, которые использовались владельцами авторских прав на протяжении всей истории - стратегии, такие как включение ложных местоположений на карте или ложных слов в словаре. [...] Код для генерации и обнаружения ловушек в настоящее время доступен на GitHub, но команда также намерена создать инструмент, позволяющий людям генерировать и вставлять ловушки для авторских прав самостоятельно. "Существует полное отсутствие прозрачности в отношении того, какой контент используется для обучения моделей, и мы считаем, что это препятствует достижению правильного баланса между компаниями по разработке ИИ и создателями контента", - говорит Ив-Александр де Монжуа, доцент прикладной математики и информатики в Имперском колледже Лондона, руководивший исследованием. Ловушки не являются неразрушимыми и могут быть удалены, но де Монжуа утверждает, что увеличение количества ловушек значительно усложняет и ресурсоемкость удаления. "Может ли они удалить все или нет, это открытый вопрос, и это, вероятно, будет напоминать кошки и мышки", - добавляет он.