Débat : les load balancers sont-ils surévalués ?
Ils absorbent les pannes bien mieux qu'ils ne répartissent la charge. Le moment où un load balancer se justifie — et celui où il ne fait qu'ajouter du risque.
Un load balancer coûte trois choses : de l'argent, un saut réseau de plus, et un composant supplémentaire à surveiller à 3 h du matin. La vraie question n'est donc pas « faut-il en mettre un », mais « qu'est-ce qu'il m'achète, et à quel prix ». Ma réponse est tranchée : dans la majorité des projets que j'ai croisés, il est surévalué. Pas inutile — surévalué.
Il ne répartit pas la charge, il masque les pannes
On l'installe en croyant gagner en performance. C'est l'argument qui revient à chaque audit. Dans presque tous les cas, le serveur applicatif tournait à moins de 30 % de CPU et le vrai goulot était ailleurs : une requête SQL sans index, un pool de connexions à cinq, une sérialisation JSON faite trois fois.
Ce que tu paies réellement avec un load balancer, c'est autre chose : la capacité de retirer automatiquement du trafic un nœud qui ne répond plus. Ce service-là vaut de l'or quand tu as plusieurs machines. Il ne vaut rien quand tu n'en as qu'une.
La mécanique est simple, encore faut-il la régler. Un upstream nginx correct ressemble à ça, et pas à trois lignes copiées-collées :
upstream app {
least_conn;
server 10.0.0.11:8080 max_fails=3 fail_timeout=10s;
server 10.0.0.12:8080 max_fails=3 fail_timeout=10s;
keepalive 32;
}
server {
location / {
proxy_pass http://app;
proxy_next_upstream error timeout http_502 http_503;
proxy_connect_timeout 2s;
}
}Sans proxy_next_upstream, ton nginx renvoie une 502 à l'utilisateur au lieu de basculer. Sans keepalive, chaque requête rouvre une connexion TCP vers le backend. J'ai déjà vu ces deux oublis annuler tout le bénéfice d'une architecture à trois nœuds.
Le calcul que personne ne pose sur la table
Chaque saut ajoute de la latence, mais ce n'est pas le coût principal. Le vrai coût, c'est la complexité qui vient avec : terminaison TLS à déplacer, vraie IP client à propager (un ALB ne la donne que via X-Forwarded-For, un NLB la conserve en mode IP), sessions à rendre collantes si ton application garde de l'état en mémoire, et délai de retrait à régler.
Ce dernier point piège tout le monde. Sur un ALB AWS, le deregistration delay vaut 300 secondes par défaut. Résultat : ton déploiement « instantané » met cinq minutes à lâcher les connexions, et tu cherches pendant deux jours d'où vient la lenteur. Un réglage à 30 secondes sur une API qui répond en 80 ms, c'est déjà large.
Et il y a la facture. Un ALB se paie à l'heure plus des unités de capacité ; la grille complète est publique mais personne ne la lit avant de cliquer sur « créer ». Pour un trafic modéré, tu ajoutes facilement quelques dizaines d'euros par mois au-dessus de tes deux VPS. Ce n'est pas rédhibitoire, c'est juste un poste de coût qu'il faut comparer à ce qu'il rapporte — la même logique que celle que j'appliquais au vrai coût de l'observabilité.
Là où tu as raison : la disponibilité
Le contre-argument sérieux, c'est le déploiement sans coupure. Retirer un nœud, mettre à jour, le remettre : c'est la seule façon propre de livrer en continu sans que l'utilisateur voie une page d'erreur. Sur ce terrain, je te suis complètement.
Mais regarde ce que ça implique vraiment. Un déploiement glissant suppose un drain des connexions actives, un health check qui distingue « vivant » de « prêt », et un trafic à répartir. Si tu n'as qu'un serveur, tout cela n'existe pas — et c'est justement le moment où les gens installent un load balancer devant… un seul backend. J'ai vu cette configuration plus souvent que je ne l'aurais cru : un HAProxy devant une machine unique. Le composant le plus critique de l'architecture devient alors le point de défaillance unique qu'il était censé éliminer.
Un load balancer seul ne fait pas de haute disponibilité. Il en faut deux, avec une IP virtuelle gérée par keepalived, ou un service managé qui garantit la sienne. C'est un budget et une compétence, pas un paquet à installer.
Les alternatives, avec leurs vraies limites
Le DNS round-robin est gratuit et souvent suffisant pour deux serveurs : deux enregistrements A, un TTL court, et tu répartis. Ses limites sont réelles pourtant : aucun contrôle de santé, un client qui garde son IP en cache, et une distribution inégale dès que les résolveurs s'en mêlent. Tu ne peux pas retirer proprement un nœud, tu peux seulement prier pour que le cache expire.
La montée en puissance verticale est l'autre option sous-estimée. Un serveur à 8 vCPU avec un pool de connexions correctement dimensionné encaisse plus de trafic que quatre petites machines mal réglées, pour un coût d'exploitation dérisoire. Le plafond existe, évidemment : une machine ne se coupe jamais, ne se met jamais à jour toute seule, et un incident matériel t'emporte tout. C'est exactement le mur que décrit mon article sur l'auto-scaling : le jour où tu ajoutes une deuxième instance, tu ajoutes aussi le problème de la répartition.
Ma règle de décision
Je la formule en une phrase : pas de load balancer tant que le deuxième serveur ne sert pas déjà du trafic réel. Avant ce point, tu ajoutes un composant, un dashboard et un mode de panne sans rien gagner en capacité. Après ce point, il devient le centre de ton architecture et il faut le traiter comme tel.
Trois cas légitimes justifient malgré tout un load balancer dès le premier serveur : centraliser la terminaison TLS et les certificats, exposer un WAF devant une application publique, ou appliquer du rate limiting par tenant à un endroit unique. Ce sont des besoins de sécurité et de gouvernance, pas de performance — et c'est une raison parfaitement valable, à condition de la nommer.
Alors oui, les load balancers sont souvent surévalués : parce qu'on les installe pour la charge alors qu'ils servent à la panne, et parce qu'on mesure leur apport en débit au lieu de le mesurer en minutes d'indisponibilité évitées. Mets-en un le jour où tu peux chiffrer ces minutes-là. Pas avant.
Sources : Google SRE Book — Load Balancing at the Frontend, documentation nginx sur le load balancing, tarification AWS Elastic Load Balancing.