AIモデルは、自分たちが何を話しているのか理解していません。

「研究者、テストでのモデルの成功が理解の幻想を隠していることを発見 MIT、ハーバード、シカゴ大学の研究者たちは、「ポチョムキン理解」という用語を提唱し、概念的なベンチマークは満点でも、実践でそれらの概念を適用するために必要な真の理解に欠けている、新たに特定された大規模言語モデルの失敗モードを説明しています。」