AI 모델은 종종 추론 과정을 드러내지 않고 자신감 있는 답변을 제시하여 사용자들이 암묵적으로 신뢰하게 만듭니다. 이러한 투명성 부족은 오류를 식별하기 어렵게 만들고 사용자 이해를 저해합니다. AI의 개발 과정을 숨기는 현재 접근 방식은 진정한 신뢰성보다 인지된 지능을 우선시하기 때문에 결함이 있습니다. 진정한 신뢰는 사용자가 AI가 결론에 도달한 방식을 평가할 수 있는 "신뢰 보정(trust calibration)"을 통해 구축됩니다.추론 단계를 공개적으로 표시하는 AI 제품은 사용자가 과정을 면밀히 조사하고, 질문하고, 심지어 중단할 수 있도록 합니다. 이러한 투명성은 AI의 불확실성 인정과 결합되어 보다 신뢰할 수 있고 협력적인 상호 작용을 촉진합니다. 복잡한 내부 작동 방식을 보여주는 것은 부담스러울 수 있지만, 중요한 결정 지점과 의심스러운 영역을 강조하는 선택적 투명성이 필수적입니다.AI 모델은 본질적으로 그럴듯한 출력을 생성하도록 설계되었으며, 이는 특히 유용성이 우선시되는 실제 응용 프로그램에서 과도하게 자신감 있는 추측으로 이어질 수 있습니다. 확실성에 관계없이 항상 답변을 제공하려는 이러한 경향은 사용자에게 "자동화 편향(automation bias)"을 유발합니다. 이를 해결하기 위해 AI의 행동에 규칙과 제한을 부과하는 "하네스(harness)" 또는 프레임워크가 필요합니다.이 하네스는 AI가 불확실할 때 인정하도록 강제하며, 이는 정확한 신뢰를 구축하는 데 중요한 요소입니다. AI는 설명을 강요하는 대신 일시 중지하고 명확한 설명을 요청하도록 프로그래밍되어야 합니다. 불확실할 때 침묵을 허용하는 이러한 선택적 예측은 사용자가 잘못된 정보를 맹목적으로 수용하는 것을 방지합니다. 궁극적으로 자신감 수준을 설명하고 모르는 것을 인정할 수 있는 AI는 보다 책임감 있고 신뢰할 수 있는 사용자 경험을 조성합니다.