Побуждение моделей ИИ 'забывать' нежелательные данные ухудшает их работу

Так называемые "техники забывания" используются для того, чтобы генеративная модель ИИ забывала конкретную и нежелательную информацию, которую она получила из обучающих данных, например, чувствительные личные данные или защищенные авторским правом материалы. Однако текущие техники забывания - это двоякий меч: они могут сделать модель, подобную GPT-4o от OpenAI или Llama 3.1 405B от Meta, гораздо менее способной отвечать на […]