Купер Шарп доказывает, что аме... Заметка

Купер Шарп доказывает, что американский сыр может быть отличным сыром

Anthropic объявила, что будет ставить водяные знаки на текст, сгенерированный ИИ, чтобы отличать его от человеческого контента. Это включает в себя тонкое изменение случайности выбора слов. Джон Грубер решительно выступил против этого изменения, сравнив его с нежелательным изменением любимого предмета. Значительная часть этого противодействия, вероятно, связана с тем, что Anthropic якобы выполняет предписание ЕС. Однако предполагается, что Anthropic может ставить водяные знаки, чтобы предотвратить переобучение собственного вывода, тем самым избегая деградации модели. Компания также может захотеть идентифицировать и использовать водяные знаки конкурентов, сохраняя при этом свои собственные в секрете. Неодобрение автором плана Anthropic не зависит от каких-либо правил ЕС. Они считают, что само правило ЕС ошибочно и уже устарело. Автор считает, что правило ЕС отвлекает от основной проблемы обнаруживаемых водяных знаков выбора слов. Автор подозревает, что Anthropic и Google в первую очередь руководствуются корыстными мотивами, связанными с обучением моделей. Обвинение правил ЕС рассматривается Anthropic как поиск козла отпущения. Джон Мольц также высказал заметную критику возвращения MacStories в Twitter/X.