1980년대 제록스 복사기 연구는 오늘날 AI 사용자 경험에 대한 중요한 교훈을 밝혀냈습니다. 연구원들은 예상치 못한 용지 걸림에 직면했을 때 사용자들이 복사기의 경직된 지침으로 어려움을 겪는 것을 관찰했습니다. 이는 인간의 행동이 예측 가능한 스크립트가 아니라 즉흥적이고 맥락에 의존적이라는 것을 강조했습니다. 제록스 PARC의 초기 HCI 개발에서도 시스템 중심적 설계 철학과 인간 중심적 설계 철학 사이의 긴장이 있었습니다. 더 똑똑한 기계가 본질적으로 더 유용하다고 믿는 사람들도 있었지만, 연구는 실제 세계의 복잡성을 고려하는 것의 중요성을 보여주었습니다. 인류학자 루시 서치먼의 연구는 인간의 행동이 고정된 계획이 아니라 상황에 대한 끊임없는 조정임을 보여주었습니다. 마찬가지로 협업 시스템에 대한 연구는 인간 상호작용이 역동적인 춤이기 때문에 경직된 커뮤니케이션 모델이 실패한다는 것을 발견했습니다. 이러한 초기 통찰력은 상황적 행동(situated action)과 사람 중심 설계(person-centered design)와 같은 원칙으로 이어졌습니다. 전통적인 시스템은 맥락과 유연성이 부족하여 이러한 요구 사항을 충족하는 데 어려움을 겪었습니다. 그러나 현대의 대규모 언어 모델(LLM)은 확률적 추론과 대화형 오류 수정을 제공함으로써 이러한 문제를 해결하기 시작하고 있습니다. 이러한 변화는 사용자가 의도를 명시하고 시스템이 선제적으로 추론하는 AIX라는 새로운 상호작용 패러다임을 가능하게 합니다. LLM은 유창함에도 불구하고 물리적 현실에 대한 이해 부족을 숨김으로써 인간의 역량에 대한 환상을 만듭니다. 이는 AI가 일부 영역에서는 뛰어나지만 다른 영역에서는 예상치 못하게 실패하는 "불규칙한 능력(jagged capabilities)"으로 이어집니다. 현재의 대화형 인터페이스는 눈에 보이는 어포던스(affordances)가 부족하고 다중 이해관계자의 요구를 무시함으로써 신뢰 문제를 악화시키는 경우가 많습니다. 신뢰할 수 있는 AI 시스템을 구축하려면 사용자와 그들의 다양한 요구 사항으로 이루어진 네트워크 내에서의 지속적인 협상으로서의 신뢰를 이해해야 합니다.