AIモデルの「忘却」が性能を低下させる

ソー・コールドの「アンホーニング」テクニックは、生成AIモデルがトレーニングデータから学んだ特定の不要な情報、例えば機密情報や著作権物質を忘れるために使用されている。ただし、現在のアンホーニングテクニックは両刃の剣で、OpenAIのGPT-4oやMetaのLlama 3.1 405Bのようなモデルが回答能力を大幅低下させる可能性がある。