Anthropic обнаружила скрытое п... Заметка

Anthropic обнаружила скрытое пространство, где Клод размышляет над концепциями

AI-компания Anthropic разработала метод, который позволил ей получить наиболее четкое представление о том, что на самом деле происходит внутри больших языковых моделей при ответе на вопросы или выполнении задач. Результаты варьируются от обыденных до тревожных. Исследователи компании создали инструмент под названием "Якобианская линза" (или...