ローカルで完璧に機能するエージェンティックワークフローは、クリティカルなエンジニアリングのギャップにより、本番環境で失敗することがよくあります。これらの失敗は、固有の複雑さからではなく、メモリリーク、評価の盲点、ツールの脆弱性に起因します。LLMはステートレスであるため、コンテキストウィンドウの制限とセッションメモリが本番環境における大きな障害となります。単純なプロンプトの蓄積はコンテキストウィンドウを圧倒し、レイテンシの増加、コストの増加、推論品質の低下につながります。本番環境のエージェントには、短期バッファ、中期ベクトル埋め込み、長期構造化データを備えたハイブリッドメモリシステムが必要です。従来の単体テストはLLMには不十分であり、本番環境ではLLMをジャッジとする評価と、回帰テストのためのゴールデンデータセットが必要です。ツールの脆弱性は、未処理のAPIエラー、ネットワークの問題、スキーマの変更から生じ、堅牢なリトライメカニズムとサーキットブレーカーを必要とします。ツールのオーケストレーションには、リトライのための指数関数的バックオフ、外部依存関係のためのサーキットブレーカー、エラーを防ぐためのスキーマ検証を含める必要があります。トレースレベルのロギング、コスト追跡、人間参加型の脱出ハッチによる効果的なオブザーバビリティが不可欠です。これらのギャップを埋めることは、プロンプトエンジニアリングからエージェントシステムエンジニアリングへと焦点を移し、メモリ管理、テスト、ツール、オブザーバビリティにおける規律を要求します。本番環境への対応は、これらのパターンを実装し、すべてのツール呼び出しに対してフォールバックメカニズムとセキュリティ監査を確立することを含みます。