エージェントはミリ秒単位で考えますが、レガシーインフラストラ... ノート
VentureBeat 日本語

エージェントはミリ秒単位で考えますが、レガシーインフラストラクチャはそうではありません。LinkedIn、Walmart、Zendeskは、VB Transform 2026でそのギャップをどのように埋めたかを共有しました。

AIエージェントは、モデル自体ではなく、レガシーインフラストラクチャによって遅延しています。LinkedIn、Walmart、Zendeskのリーダーたちは、VB Transform 2026でこの結論を共有しました。彼らの経験から、人間のワークフローのために構築されたエンタープライズインフラストラクチャは、AIエージェントの速度に苦労していることが明らかになりました。LinkedInでは、Kubernetesのプロビジョニングが遅すぎたため、事前プロビジョニングされたコンテナへの移行が必要になりました。2つ目の問題は、LLMが他のLLMを評価することによるハルシネーションでした。LinkedInは、ワークフローの大部分をスクリプト化し、LLMを推論にのみ使用することでこれに対処しました。Walmartは、エージェントに対する社内からの圧倒的な需要により、重複が発生するというボトルネックに直面しました。彼らの解決策は、エージェントを効率的に管理および展開するためのガバナンスを構築することでした。Zendeskは、大量の顧客会話データという課題に直面し、堅牢なデータパイプラインへの投資が必要となりました。3社すべてが、可能な限り自社のAIインフラストラクチャを所有することを強調し、外部プロバイダーには専門的なフロンティアワークのみを依存しました。LinkedInは、AIゲートウェイとモデルに依存しないメモリサブシステムを開発しました。Walmartは、さまざまなワークフロータイプにわたるベンダーの非依存性を維持するために、内部ゲートウェイを作成しました。彼らのアドバイスには、早期に評価システムに投資すること、最初からエージェントハーネスを所有すること、そしてモデルとコンテキストの独立性のためのインフラストラクチャを構築することが含まれます。このアプローチは、柔軟性を確保し、企業が将来のAIの進歩に適応できるようにします。最終的には、AIエージェントの機能を効果的に収容するためにインフラストラクチャを適応させることに焦点を当てるべきです。