Amazon DynamoDB offre des performances constantes avec des temps de réponse de l'ordre de quelques millisecondes à n'importe quelle échelle, ce qui le rend idéal pour les charges de travail critiques. Cependant, comme pour tout système distribué, un faible pourcentage de requêtes peut connaître des temps de réponse considérablement plus longs que la moyenne. Ce phénomène, connu sous le nom de latence de queue, fait référence à ces valeurs aberrantes plus lentes que l'on peut observer en examinant des métriques telles que le 99e ou le 99,9e centile des temps de réponse. Dans cet article, nous explorons comment Global Payments Inc. (GPN) a réduit sa latence de queue de 30 % en utilisant la technique de couverture de requête (request hedging). Nous examinons les détails techniques et les défis auxquels ils ont été confrontés, en fournissant des informations sur la façon dont vous pouvez optimiser vos propres applications sensibles à la latence. Dans un prochain article, nous partagerons des exemples d'implémentation détaillés.