InfoQ 日本語
フォロー
プレゼンテーション:バッチインテリジェンスを大規模に:組み込みのレジリエンスを備えたコスト効率の高いマルチエージェントLLMワークフロー
Aditya Mulikは、Walmart Global Techが4,700店舗で夜間バッチ在庫予測のためにマルチエージェントLLMワークフローをどのように展開したかを説明します。彼は、MCPグラウンディングとループエージェントを介して、スキーマ違反、部門間のデータ不一致、ネットワークドロップといった本番環境の障害に対処し、PTUから従量課金への移行によりクラウド推論コストを月額10万ドル以上から1万ドルに削減したことについて論じます。Aditya Mulik著