현대 기업은 지속적인 데이터 처리를 위해 실시간 스트리밍 파이프라인에 의존합니다. 전통적으로 이러한 파이프라인은 정적인 로직을 가졌지만, 생성형 AI 에이전트는 적응형 실행을 가능하게 합니다. 이를 통해 워크플로우는 데이터 콘텐츠를 기반으로 동적으로 계획을 구성하고 작업을 수행할 수 있습니다. 예를 들어, 화난 고객 메시지는 주문 조회, 시정 조치 및 고객 알림을 트리거할 수 있습니다. 그러나 생성형 AI 워크플로우를 대규모로 실행하는 것은 높은 지연 시간 및 비용과 같은 문제에 직면합니다. 제안된 솔루션은 Google Dataflow와 Agent Development Kit (ADK)를 결합하여 하이브리드 파이프라인을 생성하고 고용량 스트림을 효율적으로 처리합니다. 경량의 업스트림 모델이 이벤트를 필터링하여 복잡한 경우만 다운스트림 생성형 AI 에이전트로 라우팅합니다. 이 사전 필터링과 에이전트식 작업 패턴은 대부분의 루틴 이벤트를 포함하는 스트림에 보편적으로 적용 가능합니다. 예로는 IT 운영 로그 분류, 금융 사기 탐지 및 산업 IoT 모니터링이 있습니다. 이 아키텍처는 로컬 CPU 모델의 비용 및 속도와 생성형 AI 에이전트의 고급 기능을 활용합니다. 초기 필터링을 위해 CPU 바운드 모델을 사용함으로써, 적은 수의 이벤트만이 무거운 생성형 AI 모델 사용 비용을 발생시킵니다. 이 하이브리드 접근 방식은 비용을 크게 절감하고 높은 스트리밍 처리량을 유지합니다. Apache Beam 및 ADK와의 통합은 유지 관리 가능하고 깔끔한 코드를 보장합니다.