Les modèles d'IA ne comprennent tout simplement pas de quoi ils parlent.

"Les chercheurs découvrent que le succès des modèles aux tests cache l'illusion de compréhension Des chercheurs du MIT, de Harvard et de l'Université de Chicago ont proposé le terme de "compréhension de Potemkin" pour décrire un mode de défaillance nouvellement identifié dans les grands modèles de langage qui obtiennent d'excellents résultats aux benchmarks conceptuels, mais manquent de la véritable maîtrise nécessaire pour appliquer ces concepts dans la pratique..."