Het laten 'vergeten' van ongewenste gegevens door AI-modellen schaadt hun prestaties

Zogenaamde "vergeten" technieken worden gebruikt om een generatief AI-model te laten vergeten specifieke en ongewenste informatie die het heeft opgepikt uit trainingsdata, zoals gevoelige persoonlijke gegevens of auteursrechtelijk beschermd materiaal. Maar huidige vergeten technieken zijn een tweeslachtig zwaard: Ze kunnen een model zoals OpenAI's GPT-4o of Meta's Llama 3.1 405B veel minder capabel maken om antwoorden te geven op [...]