プレゼンテーション:バッチインテリジェンスを大規模に:組み込... ノート
InfoQ 日本語

プレゼンテーション:バッチインテリジェンスを大規模に:組み込みのレジリエンスを備えたコスト効率の高いマルチエージェントLLMワークフロー

Aditya Mulikは、Walmart Global Techが4,700店舗で夜間バッチ在庫予測のためにマルチエージェントLLMワークフローをどのように展開したかを説明します。彼は、MCPグラウンディングとループエージェントを介して、スキーマ違反、部門間のデータ不一致、ネットワークドロップといった本番環境の障害に対処し、PTUから従量課金への移行によりクラウド推論コストを月額10万ドル以上から1万ドルに削減したことについて論じます。Aditya Mulik著
CdXz5zHNQW_FPJL3ys3CB.jpeg