Модели ИИ часто дают уверенные ответы, не раскрывая процесса рассуждений, что побуждает пользователей доверять им безоговорочно. Отсутствие прозрачности затрудняет выявление ошибок и мешает пониманию со стороны пользователя. Нынешний подход, заключающийся в сокрытии процесса разработки ИИ, ошибочен, поскольку он ставит во главу угла предполагаемый интеллект, а не подлинную надежность. Истинное доверие строится посредством "калибровки доверия", когда пользователи могут оценить, как ИИ пришел к своим выводам.Продукт ИИ, который открыто отображает свои шаги рассуждений, позволяет пользователям scrutinize, задавать вопросы и даже прерывать процесс. Эта прозрачность, в сочетании с признанием ИИ неопределенности, способствует более надежному и совместному взаимодействию. Хотя демонстрация сложных внутренних механизмов может быть ошеломляющей, выборочная прозрачность, выделяющая ключевые точки принятия решений и области сомнений, имеет важное значение.Модели ИИ по своей сути предназначены для генерации правдоподобных результатов, что может привести к чрезмерно уверенным догадкам, особенно в практических приложениях, где приоритет отдается полезности. Эта тенденция всегда давать ответ, независимо от уверенности, создает у пользователей "автоматизационную предвзятость". Для борьбы с этим необходим "хаpнес" или фреймворк для наложения правил и ограничений на поведение ИИ.Этот хаpнес заставляет ИИ признавать, когда он не уверен, что является критически важным элементом для построения точного доверия. Вместо того чтобы заставлять объяснять, ИИ следует запрограммировать на паузу и запрос разъяснений. Этот выборочный прогноз, позволяющий ИИ молчать, когда он не уверен, предотвращает слепое принятие пользователями неверной информации. В конечном итоге, ИИ, который может сформулировать свои уровни уверенности и признать, когда он не знает, способствует более ответственному и надежному пользовательскому опыту.