Les outils incontournables pour les load balancers
Le tour des load balancers qui tiennent réellement la charge, du L4 pur au proxy L7 qui suit tes conteneurs — avec les configs minimales et les pièges de production.
Un load balancer qui tombe, c'est toute ta stack qui prend l'eau. La plupart des équipes le choisissent pourtant en dix minutes, sur la base d'un tutoriel de 2019. Résultat : des health checks par défaut, des sessions perdues au pire moment et un point de défaillance unique planté au milieu de l'architecture.
J'ai passé en revue les outils que j'utilise réellement en production, du L4 pur jusqu'au proxy L7 qui suit tes conteneurs. Voici lesquels tiennent la charge, avec la config minimale pour chacun.
Le load balancer n'est plus un simple répartiteur
Le rôle historique — envoyer la requête vers le serveur le moins chargé — est devenu la partie facile. Les outils modernes font du TLS, du routage par en-tête, du rate limiting, du retry et de l'observabilité.
Sur un cluster Kubernetes, 80 % de la valeur d'un bon load balancer se joue sur trois fonctions : terminaison TLS, health checks qui ne mentent pas, et métriques exploitables par Prometheus.
Exemple vécu : un health check HTTP qui interroge / et renvoie 200 même quand la base de données est injoignable. Le trafic continue d'arriver sur des instances mortes et le load balancer t'affiche une infra en pleine santé. Basculer le check sur /healthz, qui teste réellement la connexion SQL, a divisé par quatre nos erreurs 5xx en une nuit.
Les quatre familles d'outils
Avant de comparer des noms, compare des catégories. Un répartiteur L4 et un Ingress controller ne résolvent pas le même problème.
| Famille | Niveau | Ce qu'elle fait | Exemples |
|---|---|---|---|
| Répartiteur L4 | TCP/UDP | Distribue les connexions sans lire le HTTP, très rapide | HAProxy en mode tcp, IPVS, MetalLB |
| Proxy inverse L7 | HTTP | Routage par host/path/en-tête, TLS, compression, cache | NGINX, HAProxy http, Envoy, Caddy |
| Ingress / Gateway API | HTTP + Kubernetes | Découverte automatique des services, certificats dynamiques | Traefik, ingress-nginx, Cilium Gateway |
| VIP et failover | Réseau | Une adresse IP qui survit à la perte d'un nœud | keepalived, kube-vip, Corosync |
Une architecture sérieuse combine souvent deux familles. Exemple classique : keepalived pour l'IP flottante, HAProxy derrière pour la répartition réelle.
HAProxy : la référence quand la latence compte
HAProxy reste l'outil le plus prévisible du marché. Sa configuration est verbeuse, mais chaque directive fait exactement ce qu'elle annonce, et le mode stats intégré vaut à lui seul une stack d'observabilité légère.
La configuration minimale pour deux backends avec un health check honnête tient en vingt lignes :
global
maxconn 8000
defaults
mode http
timeout connect 3s
timeout client 30s
timeout server 30s
frontend web
bind *:80
default_backend app
backend app
balance leastconn
option httpchk GET /healthz
http-check expect status 200
server app1 10.0.1.11:3000 check inter 2s fall 2 rise 3
server app2 10.0.1.12:3000 check inter 2s fall 2 rise 3Deux détails qui changent tout : leastconn plutôt que roundrobin quand tes requêtes ont des durées très inégales, et fall 2 rise 3 pour éviter qu'un hoquet réseau de 200 ms ne sorte un serveur du pool.
Mon seul reproche : la gestion des certificats TLS reste manuelle. Sur un parc de vingt domaines, tu finiras par écrire un script autour de certbot ou par déléguer le TLS à un autre outil. La documentation officielle est un modèle du genre, dense et précise.
NGINX : le couteau suisse déjà installé
NGINX a un avantage massif sur tous ses concurrents : il est déjà là. Sur un VPS fraîchement provisionné, tu n'as rien à installer pour faire du load balancing correct.
La directive upstream couvre 90 % des besoins, avec un pool de connexions persistantes vers l'amont :
upstream app {
least_conn;
server 10.0.1.11:3000 max_fails=2 fail_timeout=10s;
server 10.0.1.12:3000 max_fails=2 fail_timeout=10s;
keepalive 32;
}
server {
listen 443 ssl http2;
server_name app.liink.ovh;
location / {
proxy_pass http://app;
proxy_next_upstream error timeout http_502;
proxy_set_header Connection "";
proxy_set_header Host $host;
}
}Le piège classique est là : sans keepalive dans l'upstream et sans proxy_set_header Connection "", chaque requête ouvre une nouvelle connexion TCP. Sur une API à 2 000 requêtes par seconde, tu paies des millisecondes de handshake à chaque appel. La page de documentation sur le load balancing HTTP détaille les cinq algorithmes disponibles.
NGINX excelle aussi en mode statique + proxy sur la même instance. C'est mon choix par défaut pour un projet qui n'a qu'un seul serveur et trois conteneurs.
Traefik : celui qui suit tes conteneurs
Traefik renverse la logique. Tu ne déclares plus de backends dans un fichier : tu poses des labels sur tes conteneurs et le routeur se reconfigure tout seul.
services:
api:
image: ghcr.io/liink/api:1.4.2
labels:
- "traefik.enable=true"
- "traefik.http.routers.api.rule=Host(`api.liink.ovh`)"
- "traefik.http.services.api.loadbalancer.server.port=3000"
- "traefik.http.services.api.loadbalancer.healthcheck.path=/healthz"Le gain est réel : ajouter une réplique se fait avec docker compose up --scale api=3, et Traefik intègre la nouvelle instance en quelques secondes. Les certificats Let's Encrypt sont gérés sans intervention.
Le coût, c'est la lisibilité. Sur un projet avec quinze services et trois équipes, les labels deviennent un fichier de configuration déguisé. Je détaille les cas avancés dans le guide de configuration de Traefik, notamment le routage par middleware.
Envoy, le standard caché des service meshes
Tu n'installes rarement Envoy directement. Pourtant il tourne déjà chez toi si tu utilises Istio, Cilium en mode L7 ou un API gateway récent.
Son modèle de configuration par API (xDS) permet de changer les routes à chaud, sans reload, sans perdre une connexion. C'est ce qui le rend indispensable au-delà de quelques centaines de services.
Exemple concret : dans Istio, chaque pod embarque un sidecar Envoy qui applique les règles de retry, de circuit breaking et de mTLS. Le load balancing se fait alors au niveau de chaque pod, pas d'un point central.
Pour un projet de trois conteneurs, c'est de la complexité gratuite. Pour un mesh de cinquante services avec des contraintes de conformité, c'est le seul modèle qui tient.
Caddy : le choix des petits projets
Caddy résout le problème le plus pénible du load balancing — le TLS — en une ligne.
app.liink.ovh {
reverse_proxy 10.0.1.11:3000 10.0.1.12:3000 {
lb_policy least_conn
health_uri /healthz
}
}Certificat obtenu automatiquement, renouvellement inclus, HTTP/3 activé par défaut. Sur un projet solo avec deux serveurs, c'est dix minutes de gagnées et zéro cron de renouvellement à surveiller.
La limite arrive vite : pas de cache intégré comparable à NGINX, moins de granularité sur les timeouts, écosystème de modules plus jeune. Je l'utilise pour les side-projects, pas pour une plateforme à trafic soutenu.
MetalLB et kube-vip : donner une vraie IP à un Service
Sur un cluster Kubernetes auto-hébergé, un Service de type LoadBalancer reste en EXTERNAL-IP: <pending> indéfiniment. Aucun cloud controller ne vient lui attribuer d'adresse.
MetalLB comble ce vide en mode ARP (couche 2) ou BGP. Tu déclares une plage d'IP, il l'annonce sur le réseau et l'attribue à tes Services.
apiVersion: metallb.io/v1beta1
kind: IPAddressPool
metadata:
name: pool-public
namespace: metallb-system
spec:
addresses:
- 91.134.135.120-91.134.135.130En mode L2, tout le trafic d'une IP passe par un seul nœud : c'est simple mais ce nœud devient un goulot. En mode BGP, la répartition est réelle. kube-vip fait le même travail avec une approche plus proche de keepalived et gère aussi le plan de contrôle.
keepalived : l'IP flottante qui évite le point unique
Si tu héberges ton load balancer toi-même, tu viens d'en créer un nouveau. Deux HAProxy derrière une IP virtuelle partagée règlent le problème avec VRRP.
vrrp_instance VI_1 {
state MASTER
interface eth0
virtual_router_id 51
priority 150
advert_int 1
authentication {
auth_type PASS
auth_pass aChanger
}
virtual_ipaddress {
91.134.135.119/24
}
}Le nœud secondaire passe en MASTER dès que les annonces VRRP s'arrêtent, en une seconde avec advert_int 1. C'est brutal, efficace, et ça reste la brique la plus fiable pour un failover réseau.
Attention au piège du split-brain : sans nopreempt ni surveillance d'un lien dédié, deux nœuds peuvent se croire MASTER simultanément et répondre sur la même IP.
Quel outil pour quel besoin
| Besoin | Outil | Pourquoi |
|---|---|---|
| Un VPS, trois conteneurs | NGINX ou Caddy | Déjà installé ou TLS automatique, zéro dépendance |
| API à forte charge, latence critique | HAProxy | Prévisible, stats intégrées, très faible overhead |
| Parc Docker qui bouge souvent | Traefik | Découverte automatique, certificats dynamiques |
| Kubernetes auto-hébergé | MetalLB + ingress-nginx | IP réelle pour les Services, routage L7 standard |
| Mesh de 50+ services | Envoy / Istio | Config à chaud, mTLS, circuit breaking par pod |
| Zéro interruption sur un nœud | keepalived | VIP et failover en une seconde |
Le reste du temps, la vraie question n'est pas « quel outil » mais « combien de load balancers ». Un load balancer unique, même excellent, reste un point de défaillance unique — le débat sur leur utilité réelle mérite d'être posé avant d'en empiler trois.
Les pièges qui coûtent une nuit blanche
Le health check qui teste la mauvaise chose
Un endpoint /healthz qui renvoie 200 sans toucher ses dépendances ne vaut rien. Il doit au minimum tester la base et le cache, et renvoyer 503 quand l'un des deux est absent.
Corollaire : ne teste pas une dépendance externe critique dans le health check. Si l'API de paiement est down, tu ne veux pas sortir tous tes serveurs du pool en même temps.
La session collante oubliée
Une application qui stocke la session en mémoire locale impose du sticky session côté load balancer. Sans cookie d'affinité, l'utilisateur perd son panier à chaque requête.
La bonne réponse reste de sortir la session du processus — Redis, base de données, JWT — plutôt que de configurer un cookie d'affinité qui casse au premier scale-down.
Les timeouts qui s'empilent
Trois timeouts doivent s'emboîter : client < load balancer < application. Si ton proxy attend 60 s et ton application 30 s, le proxy garde une connexion morte pendant trente secondes de trop.
Règle simple que j'applique partout : proxy à 35 s, application à 30 s, client à 40 s. Le proxy a toujours le dernier mot.
Le TLS délégué à l'aveugle
Terminer le TLS au load balancer puis parler en clair jusqu'aux backends fonctionne, jusqu'au jour où le réseau interne n'est plus de confiance. Sur un cluster multi-tenant, garde du TLS de bout en bout ou assume explicitement le risque.
FAQ rapide
Faut-il un load balancer pour un seul serveur ?
Non, sauf pour le TLS et le routage de plusieurs domaines. Dans ce cas, NGINX ou Caddy suffisent, et tu évites une couche réseau supplémentaire à maintenir.
HAProxy ou NGINX en 2026 ?
HAProxy si ton métier est la répartition de charge pure avec des métriques fines. NGINX si tu as aussi besoin de servir du statique, du cache et plusieurs sites sur la même instance.
Comment tester un load balancer sans casser la prod ?
Coupe une instance volontairement et mesure le temps de retrait du pool. Si le trafic continue d'arriver plus de dix secondes après l'arrêt, tes health checks sont trop lents.
Le load balancing DNS, ça compte ?
Oui pour du multi-région, non comme mécanisme principal. Le DNS round-robin ignore l'état des serveurs, ne retire pas un backend mort et reste soumis au cache des résolveurs.
Ce que je retiens après plusieurs années
L'outil compte moins que la qualité de tes health checks et la cohérence de tes timeouts. J'ai vu des architectures HAProxy impeccables tomber à cause d'un /healthz complaisant, et des setups Caddy minimalistes tenir des années sans intervention.
Si tu démarres aujourd'hui : Caddy pour un projet solo, Traefik dès que tu passes à Docker Compose sérieux, et HAProxy quand la latence devient une contrainte chiffrée dans ton budget. Le reste, c'est du confort d'exploitation.