넷플릭스는 사용자 경험과 시스템 복원력을 향상시키기 위해 서비스 수준의 부하 제거 기법을 구현했습니다. 이 기법은 동일한 서비스 내에서 비중요한 예측 요청보다 중요한 사용자 시작 요청을 우선순위로 처리합니다. PlayAPI, 중요한 백엔드 서비스에서 동시성 제한자와 파티셔닝을 구현하여 중요한 요청에 100% 처리량을 할당하고, 초과 처리 용량을 비중요한 요청에 사용합니다. 이러한 우선순위는 트래픽_spike 또는 고 지연 기간 동안에도 사용자 시작 요청이 높은 가용성을 유지할 수 있도록 보장합니다. 이러한 접근 방식의 성공은 서비스 우선순위를 정의하는 데 사용할 수 있는 일반적인 라이브러리의 개발로 이어졌습니다. 이 라이브러리는 CPU 사용률을 시스템 부하의 척도로 사용하여, 사용자 경험을 유지하고 자동 확장에 더 많은 시간을 제공하는 낮은 우선순위 트래픽을 점진적으로 제거합니다. 실험 결과, 이 접근 방식은 극한 부하 조건에서 비중요한 및 중요한 트래픽을 효과적으로 제거하여 합리적인 지연과 안정적인 처리량을 유지하는 것으로 나타났습니다. 넷플릭스는 사용자 경험을 저하하거나 시스템 불안정을 초래할 수 있는 반패턴, 즉 제거하지 않거나 과부하 실패를 피하는 것이 중요하다고 강조합니다.