Temporal, Kafka, RAG를 활용한 클라이언트 멈춤 없는 대규모 API 응답 처리: 실용적인 아키텍처
거대한 API 응답은 네트워크 문제가 되기 훨씬 전에 클라이언트 문제가 됩니다. 브라우저는 수백 메가바이트를 수신하고도 바이트를 버퍼링하고, 거대한 JSON 문서를 파싱하고, 중복 객체 그래프를 유지하고, 메인 스레드에 너무 많은 상태를 렌더링하면서 응답하지 않게 될 수 있습니다.안정적인 해결책은 더 긴 타임아웃이 아닙니다. 응답을 동기식 문서로 취급하는 것을 멈추고, 제한된 조각으로 도착하는 데이터의 내구성 있고 관찰 가능한 작업으로 취급하기 시작하는 것입니다. 브라우저 스트림은 점진적인 소비와 백프레셔를 지원하며, 백그라운드 워커는 사용자 인터페이스 스크립트와 독립적으로 장시간 실행되는 처리를 허용합니다.