✈️ Distance et latence : quand vos paquets prennent des vacances
- Chloé Durand
- 8 avr.
- 2 min de lecture
La distance est-elle un contributeur majeur pour la latence ?
L’Edge Compute, solution en vogue de déploiement en proximité de puissances de calcul, est une possible réponse à la problématique de la réduction de la latence.
Mais est-ce le cas ?
Essayons d’analyser 2 exemples ci-dessous.
Latencetech a déployé 2 couples de sondes actives (Agent / Réflecteur) dans des datacenter MSFT/Azure dans 3 pays: USA, Canada et France.
Entre la France et le Canada, on peut estimer une liaison de type support fibre, par contre entre les USA et le Canada le support terrestre peut être une combinaison Fibre / Faisceaux.
Dans le cas de la fibre, on ne connaît ni l'indice de réfraction exact ni la longueur d’onde utilisée.
Nous allons ainsi constater les différentes mesures de la latence niveau applicatif (TCP, UDP).
Cas #1: USA <> Canada
La distance à vue (LoS) entre Toronto et Kansas City est de 1600 km soit une distance aller/ retour d’environ 3200 km.
La sonde est installée sur 2 CPU / 8Go.
Le temps de latence IP applicative (TCP & UDP) mesuré entre 2 instances VM en Aller/Retour (RTD) par les QoS Agent de Latencetech est d'environ ~ 15ms. Considérant une latence support fibre d’environ ~ 9 ms (3ms par 1 000 km soit 3 x 3 = 9 ms), il reste ainsi environ 15-9 = 6 ms de latence dû aux équipements réseaux actifs (serveurs IT, routage IP).
Autrement dit 60% (9/15) de la latence totale provient de la partie Transport dans ce cas de figure.
Cas 2: USA <> France
Les sondes actives sont installées sur 2VM (2CPU/8Go) situés sur 2 serveurs situés à Toronto (Canada) et Paris (France).
La distance directe est de 6 000 km, soit un Aller/retour de 12 000 km (LoS)
La latence applicative totale mesurée est d'environ ~ 100 ms.
Si on considère que le temps de latence IT/VM est le même que dans le cas précédent, soit 6 ms, 94% du temps de latence provient donc du réseau de transport pour une distance de 12 000 Km AR.
Sur la base de ces 2 exemples, quels enseignements à tirer ?
1) La distance, cas du support fixe, est elle prépondérante ?
2) l’Edge Computing est-elle une bonne réponse mais à quelle distance ? < 1 000 km ?
3) Sachant que les principaux serveurs LLM sont localisés aux USA, les temps de réponse sont-ils essentiels ou critiques dans le choix du LLM et donc de LLM locaux ?
Rappel pour les nouveaux lecteurs:
Comments