KI-Modelle verstehen einfach nicht, worüber sie reden.

Forscher finden: Erfolg von Modellen bei Tests verbirgt die Illusion des Verstehens Forscher des MIT, Harvard und der University of Chicago haben den Begriff „Potemkinsches Verständnis“ vorgeschlagen, um eine neu identifizierte Fehlfunktion in großen Sprachmodellen zu beschreiben, die konzeptionelle Benchmarks meistern, aber nicht über das tatsächliche Verständnis verfügen, das benötigt wird, um diese Konzepte in der Praxis anzuwenden...