Daring Fireball By John Gruber на русском
Подписаться
«Слабые водяные знаки Anthropic умиротворяют слабый закон»
Обоснование закона, требующего водяных знаков для текста, созданного ИИ, могло бы быть применено к калькуляторам, но, к счастью, результаты работы человека и калькулятора в настоящее время рассматриваются одинаково. Аналогично, проверка орфографии не подвергается проверке за свою помощь. Выделение помощи ИИ только тогда, когда он может составлять полные предложения, является не принципиальным различием, а ошибочной оценкой сложности. Широкое внедрение водяных знаков на уровне модели компанией Anthropic превышает минимальные требования закона. Такой подход игнорирует различия, которые закон намеревался сохранить. Полученный водяной знак достаточно широк, чтобы повлиять на невинное и полезное использование. Однако он может быть легко удален решительными людьми путем значительного перефразирования. Это рискует несправедливо нацелиться на обычных и вспомогательных пользователей, будучи наименее эффективным против преднамеренного обмана. Джеймс Падолси, создатель Declaude, подчеркивает эту проблему: его приложение способно удалять отличительный стиль Claude и, потенциально, эти новые водяные знаки. Работа Падолси демонстрирует плохо продуманную природу этого регулирования ЕС, поскольку Anthropic и Google Gemini применяют аналогичные методы водяных знаков.