AI 모델은 자신이 무슨 말을 하는지 이해하지 못합니다.

"연구자들은 모델이 시험에서 성공하는 것이 이해력의 환상을 숨긴다는 것을 발견했습니다. MIT, 하버드, 시카고 대학교의 연구자들은 개념 벤치마크에서 뛰어난 성적을 거두지만 실제 적용에 필요한 진정한 이해력이 부족한 대규모 언어 모델에서 새로 확인된 실패 모드를 설명하기 위해 "포템킨 이해"라는 용어를 제안했습니다."