Daring Fireball By John Gruber на русском
Подписаться
Несущий словарный запас Клода
Луи Абрахам провел проект анализа данных, выявивший повторяющиеся словесные обороты Клода в запросах на слияние в GitHub. Анализ сгруппировал описания по использованию слов, выделив восемь различных стилей письма. Один из этих стилей резко увеличил свою распространенность с 1,0% до 45% чуть более чем за год. Это свидетельствует о растущей унификации в том, как Клод генерирует эти описания. Дальнейшее исследование водяных знаков ИИ, в частности SynthID-Text от Google, высвечивает связанную проблему. Этот метод наложения водяных знаков приводит к снижению разнообразия между ответами. По сути, разные ответы на один и тот же запрос становятся более похожими. Это означает, что в выходных данных с водяными знаками меньше разнообразия. Эта проблема вызывает особую озабоченность, учитывая существующие трудности Клода с разнообразием ответов. Последствия таковы, что наложение водяных знаков может усугубить склонность Клода к повторяющемуся языку.