Исследование копировальных аппаратов Xerox 1980-х годов выявило важные уроки для современного пользовательского опыта ИИ. Исследователи наблюдали, как пользователи испытывали трудности с жесткими инструкциями копировального аппарата при возникновении непредвиденных замятий бумаги. Это подчеркнуло, что человеческое поведение импровизационно и зависит от контекста, а не является предсказуемым сценарием. Ранняя разработка HCI в Xerox PARC также показала напряженность между системно-ориентированной и человеко-ориентированной философиями дизайна. В то время как некоторые считали, что более "умные" машины по своей сути более полезны, исследования продемонстрировали важность учета реальных сложностей. Работа антрополога Люси Сачман показала, что человеческие действия представляют собой постоянную корректировку обстоятельств, а не фиксированный план. Аналогично, исследования совместных систем показали, что жесткие модели коммуникации терпят неудачу, потому что человеческое взаимодействие — это динамичный танец. Эти ранние идеи привели к таким принципам, как ситуативное действие и клиентоориентированный дизайн. Традиционные системы с трудом удовлетворяли этим требованиям, поскольку им не хватало контекста и гибкости. Однако современные большие языковые модели (LLM) начинают решать эти проблемы, предлагая вероятностное рассуждение и интерактивное исправление ошибок. Этот сдвиг позволяет создать новую парадигму взаимодействия под названием AIX, где пользователи излагают свои намерения, а система проактивно рассуждает. Несмотря на свою беглость, LLM создают иллюзию человеческой компетентности, маскируя свое ограниченное понимание физической реальности. Это приводит к "неровным возможностям", когда ИИ преуспевает в одних областях, но неожиданно терпит неудачу в других. Современные разговорные интерфейсы часто усугубляют проблемы с доверием, поскольку им не хватает видимых средств управления и они игнорируют потребности множества заинтересованных сторон. Создание надежных систем ИИ требует понимания доверия как постоянных переговоров в сети пользователей и их разнообразных потребностей.