Cómo Global Payments Inc. mejoró su latencia de cola utilizando el hedging de solicitudes con Amazon DynamoDB
Amazon DynamoDB ofrece un rendimiento consistente de milisegundos de un solo dígito a cualquier escala, lo que lo hace ideal para cargas de trabajo críticas. Sin embargo, como con cualquier sistema distribuido, un pequeño porcentaje de solicitudes puede experimentar tiempos de respuesta significativamente más largos que el promedio. Este fenómeno, conocido como latencia de cola, se refiere a estos valores atípicos más lentos que se pueden ver al observar métricas como el percentil 99 o 99.9 de los tiempos de respuesta. En esta publicación, exploramos cómo Global Payments Inc. (GPN) redujo su latencia de cola en un 30% utilizando la cobertura de solicitudes (request hedging). Revisamos los detalles técnicos y los desafíos que enfrentaron, proporcionando información sobre cómo puede optimizar sus propias aplicaciones sensibles a la latencia. En una próxima publicación compartiremos ejemplos detallados de implementación.