AI 에이전트는 모델 자체에 의해 느려지는 것이 아니라 레거시 인프라에 의해 느려지고 있습니다. LinkedIn, Walmart, Zendesk의 리더들은 VB Transform 2026에서 이러한 결론을 공유했습니다. 그들의 경험에 따르면 인간 워크플로우를 위해 구축된 엔터프라이즈 인프라는 AI 에이전트의 속도에 어려움을 겪고 있습니다.LinkedIn에서는 Kubernetes 프로비저닝이 너무 느려 사전 프로비저닝된 컨테이너로 전환해야 했습니다. 두 번째 문제는 LLM이 다른 LLM을 평가하여 환각을 유발하는 것이었습니다. LinkedIn은 대부분의 워크플로우를 스크립팅하고 LLM은 추론에만 사용하여 이를 해결했습니다.Walmart는 에이전트에 대한 과도한 내부 수요로 인해 병목 현상이 발생하여 중복이 발생했습니다. 그들의 해결책은 에이전트를 효율적으로 관리하고 배포하기 위한 거버넌스를 구축하는 것이었습니다. Zendesk는 방대한 고객 대화 데이터로 인해 어려움을 겪었으며, 강력한 데이터 파이프라인에 대한 투자가 필요했습니다.세 회사 모두 가능한 한 자체 AI 인프라를 소유하고, 외부 제공업체는 전문적인 최첨단 작업에만 의존한다고 강조했습니다. LinkedIn은 AI 게이트웨이와 모델 독립적인 메모리 하위 시스템을 개발했습니다. Walmart는 다양한 워크플로우 유형에 걸쳐 공급업체 독립성을 유지하기 위해 내부 게이트웨이를 만들었습니다.그들의 조언에는 조기에 평가 시스템에 투자하고, 처음부터 에이전트 하네스를 소유하고, 모델 및 컨텍스트 독립성을 위한 인프라를 구축하는 것이 포함됩니다. 이 접근 방식은 유연성을 보장하고 기업이 향후 AI 발전에 적응할 수 있도록 합니다. 궁극적으로 AI 에이전트 기능을 효과적으로 수용하기 위해 인프라를 조정하는 데 초점을 맞춰야 합니다.