Global Payments Inc.가 Amazon D... 노트

Global Payments Inc.가 Amazon DynamoDB를 이용한 요청 헤징을 통해 꼬리 지연 시간을 개선한 방법

아마존 DynamoDB는 어떤 규모에서도 한 자릿수의 밀리초 단위로 일관된 성능을 제공하므로 미션 크리티컬 워크로드에 이상적입니다. 그러나 모든 분산 시스템과 마찬가지로, 요청의 아주 작은 비율은 평균보다 훨씬 더 긴 응답 시간을 경험할 수 있습니다. '꼬리 지연 시간(tail latency)'이라고 하는 이 현상은 응답 시간의 99번째 또는 99.9번째 백분위수와 같은 지표를 통해 확인할 수 있는 더 느린 이상치들을 의미합니다. 이 글에서는 Global Payments Inc.(GPN)가 요청 헤징을 사용하여 꼬리 지연 시간을 30% 줄인 방법을 살펴봅니다. 그들이 직면했던 기술적인 세부 사항과 문제점을 검토하여 여러분이 자체 지연 시간에 민감한 애플리케이션을 최적화하는 방법에 대한 통찰력을 제공합니다. 다음 글에서는 자세한 구현 예제를 공유할 예정입니다.
CdXz5zHNQW_03Vakb8vQr.png