製品におけるAIの失敗のほとんどは、モデルが弱いからではなく、モデルが暗闇の中で推測しているために起こります。 大規模言語モデルは、コードを書いたり、会議を要約したり、メールを作成したり、レポートを生成したり、顧客からの質問に答えたりすることができます。しかし、どの顧客、どの契約、どのポリシー、どのチケット、どのバージョンの真実、あるいはどの権限境界が適用されるかを知らない場合、それでも自信のある回答を生成します。