Load balancer (6/10): Horizontal scaling ~100.000 user

Mục tiêu phần 6

~100.000 user: một app server không đủ CPU — scale ngang với load balancer, app stateless, Redis cluster, autoscaling.

---

Stateless + LB

Users → L7 LB → App × N
              → Redis (session + cache)
              → Primary + 2 replicas

Session: JWT hoặc Redis session — tránh sticky session nếu có thể.

Auto-scale

Metric: CPU > 60% 5 phút → +1 instance; < 30% → -1 (cooldown).

Click count scale

Redirect path: INCR clicks:{slug} trên Redis; worker mỗi 10s flush batch lên Postgres hoặc ghi event (phần 7).

Centralized logs

Một request qua 3 pod — cần request_id header xuyên suốt.

Bài tập

Peak 5k RPS, 1 pod 800 RPS → cần tối thiểu mấy pod? (7, + headroom → 8–10)

---

Điều hướng seri: ← Phần 5 · Phần 7 →