Att göra AI-modeller 'glömma' oönskad data skadar deras prestanda

Så kallade "unlearning"-tekniker används för att få en generativ AI-modell att glömma specifika och oönskade uppgifter som den har lärt sig från träningdata, som känsliga personuppgifter eller upphovsrättsskyddat material. Men nuvarande unlearning-tekniker är en tvåeggad svärd: De kan göra en modell som OpenAI:s GPT-4o eller Meta:s Llama 3.1 405B mycket mindre kapabel att svara på frågor.