AIモデルは、しばしばその推論プロセスを明らかにすることなく自信に満ちた回答を提示し、ユーザーにそれを暗黙のうちに信頼させる。この透明性の欠如は、エラーを特定することを困難にし、ユーザーの理解を妨げる。AIの開発プロセスを隠蔽する現在の方法は、真の信頼性よりも認識された知性を優先するため、欠陥がある。真の信頼は、「信頼キャリブレーション」を通じて構築される。これは、ユーザーがAIがどのように結論に至ったかを評価できるものである。AI製品がその推論ステップを公然と表示することで、ユーザーはプロセスを精査し、疑問を呈し、さらには中断することができる。この透明性は、AIの不確実性の認識と相まって、より信頼性が高く協力的な相互作用を促進する。複雑な内部動作を表示することは圧倒される可能性があるが、重要な意思決定ポイントや疑わしい領域を強調する選択的な透明性は不可欠である。AIモデルは、本質的にもっともらしい出力を生成するように設計されており、特に有用性が優先される実用的なアプリケーションでは、過度に自信のある推測につながる可能性がある。確実性に関係なく常に回答を提供するこの傾向は、ユーザーに「自動化バイアス」を生み出す。これを克服するためには、AIの行動にルールと制限を課す「ハーネス」またはフレームワークが必要である。このハーネスは、AIに不確実な場合にそれを認めることを強制する。これは、正確な信頼を構築するための重要な要素である。説明を強制する代わりに、AIは一時停止して明確化を求めるようにプログラムされるべきである。不確実な場合に沈黙することを可能にするこの選択的な予測は、ユーザーが誤った情報を盲目的に受け入れることを防ぐ。最終的に、自信のレベルを明確にし、知らないことを認めることができるAIは、より責任ある信頼できるユーザーエクスペリエンスを促進する。