Définition
La latence est le délai entre l'envoi d'une demande et le début de la réponse : le temps que met une page à commencer à s'afficher, une API à répondre, une base de données à renvoyer un résultat. Elle se mesure en millisecondes et s'exprime souvent en percentiles : « 95 % des requêtes répondent en moins de 200 ms ». La distance physique, le nombre d'intermédiaires, la charge du serveur et les accès disque y contribuent. Le débit mesure la quantité traitée ; la latence, le temps d'attente de chacun.
Dans la pratique
La latence se voit directement par l'utilisateur et par le chiffre d'affaires : chaque centaine de millisecondes gagnée sur un site marchand se traduit en conversions. Un profil backend ou SRE doit savoir la mesurer sur de vrais parcours, identifier la requête lente et agir par le cache, les index ou la proximité géographique. Un SLO exprimé en latence médiane cache les 5 % d'utilisateurs les plus mal servis.
Termes liés
Définition rédigée par L'équipe Top Profil. Glossaire mis à jour le . Tous les termes du glossaire.