"Исследователи подробно описывают "подсознательное обучение", при котором большие языковые модели (LLM) усваивают черты из данных, сгенерированных моделью, которые семантически не связаны с этими чертами (Anthropic)"

Anthropic: Исследователи подробно описывают «подсознательное обучение» — процесс, при котором большие языковые модели (LLM) усваивают черты характера из данных, сгенерированных самой моделью, которые семантически не связаны с этими чертами. Мы изучаем подсознательное обучение — удивительный феномен, при котором языковые модели усваивают черты из данных, сгенерированных моделью, но семантически не связанных с этими чертами.