AIの失敗は、モデルの限界ではなく、人間の意思決定における不明確さに起因する、組織的な問題であることが多い。中核的な問題は、意図の定義、監督の実施、十分なコンテキストの提供、正確な言語の使用、期待値の設定、評価の実施、結果の明確化、適切なツールの選択といった、上流工程にある。Anthropicの経験は、AIがコード生成を加速させるにつれて、制約が構築から何を構築するかを決定することへとシフトすることを示唆している。この速度の向上は、より良い人間の整合性と制御を必要とし、ユーザーエクスペリエンスと慎重な計画を強調する。多くのAIプロジェクトは、ユーザーの意図を理解するのではなく、ツールの能力から始まるため失敗し、使用されない機能につながる。AIに言及する前に、ユーザー自身の言葉でユーザーの問題から始めることが、その後の意思決定を整合させる上で重要である。一般的な間違いは、単純なタスクに過度に強力なAIエージェントを使用することであり、これは非効率的でリスクが高い。ツールの選択は仕事に合わせる必要があり、例えば、検索にはアシスタントを、固定された手順には自動化を使用するなど、適切なツールを選択することが不可欠である。エージェンティックAIは、不確実性下での真の意思決定が必要な場合にのみ、明確な境界と人間のチェックポイントとともに使用されるべきである。入力要件と出力の信頼性に関するユーザーへの明確な期待値を設定することは、AIツールへの過度の依存や放棄を避けるために不可欠である。AIシステムは、新入社員がオンボーディングを受けるのと同様に、その能力、限界、および精度レベルを明確に伝える必要がある。ほとんどのAI展開では、システム上の決定とその結果に対する明確な所有権と説明責任が欠如している。権限とチェックポイントを通じて堅牢な監督体制を確立することが、有害なAIアクションを防ぐ最も信頼性の高い方法である。効果的に言えば、AIの失敗は機械の失敗ではなく、それを導く人間の意思決定の失敗である。