"N 요청/초"를 넘어서는 속도 제한: 급증하는 워크로드에 대한 적응형 스로틀링 (Spring Cloud Gateway)"

대부분의 팀들은 장애 발생 전에 속도 제한을 추가하는 것이 아니라, 장애 발생 후에 추가합니다. 저도 두 가지 방식을 모두 경험해 봤는데, "후"에 추가하는 방식은 보통 이렇습니다: 누군가 숫자를 하나 고릅니다 (예: 초당 500 요청), 필터를 연결하고, 더 안전하다고 느낍니다. 그러고 나서 다음 사고가 또 발생합니다. 왜냐하면 문제는 숫자가 아니었기 때문입니다. 진짜 문제는 대개 다음과 같습니다: