발표: 대규모 배치 인텔리전스: 내장된 복원력을 갖춘 ... 노트
InfoQ 한국어

발표: 대규모 배치 인텔리전스: 내장된 복원력을 갖춘 비용 효율적인 멀티 에이전트 LLM 워크플로우

아디티아 물릭은 월마트 글로벌 테크가 4,700개 매장에 걸쳐 야간 배치 재고 예측을 위해 멀티 에이전트 LLM 워크플로우를 배포한 방법을 설명합니다. 그는 MCP 그라운딩과 루프 에이전트를 통해 스키마 위반, 부서 간 데이터 불일치, 네트워크 끊김과 같은 프로덕션 장애물을 해결하고, PTU에서 종량제로 전환하여 클라우드 추론 비용을 월 10만 달러 이상에서 1만 달러로 절감한 것에 대해 논의합니다. 아디티아 물릭 작성.
CdXz5zHNQW_FPJL3ys3CB.jpeg