Tehtyjen AI-mallien 'unohtaminen' epätoivotusta datasta heikentää niiden suorituskykyä

Niin kutsutut "unlearning"-tekniikat käytetään generatiivisen tekoälymallin unohtamiseksi tiettyjä ja toivottomia tietoja, joita se on oppinut koulutusdatasta, kuten henkilökohtaisia tietoja tai tekijänoikeuden alaista materiaalia. Mutta nykyiset unlearning-tekniikat ovat kaksiteräinen miekka: Ne voisivat tehdä mallista, kuten OpenAI:n GPT-4o tai Meta:n Llama 3.1 405B, paljon vähemmän kykeneväksi vastaamaan kysymyksiin tai suorittamaan tehtäviä.