摘要：另一種負(fù)載均衡策略是最少連接。當(dāng)使用最少連接負(fù)載均衡策略時(shí)，會(huì)把新請(qǐng)求分發(fā)給不太忙的服務(wù)器，從而避免分發(fā)過多的請(qǐng)求給忙碌的服務(wù)器造成過載。另外，還有很多的命令以及參數(shù)可以控制的負(fù)載均衡，例如。使用做負(fù)載均衡

負(fù)載均衡一般被用來優(yōu)化資源利用率、最大化吞吐量、降低延遲和容錯(cuò)配置。

Nginx 可以作為一種十分有效的 HTTP 負(fù)載均衡工具來使用，通過 nginx 的負(fù)載均衡分發(fā)流量到不同的應(yīng)用服務(wù)器，可以提升 web 應(yīng)用的性能、伸展性和可靠性。

Nginx 支持下面幾種負(fù)載均衡策略：

round-robin(輪詢) — 根據(jù)輪詢分發(fā)請(qǐng)求到不同的服務(wù)器
least-connected(最少連接) — 將最新請(qǐng)求分發(fā)到活動(dòng)連接最少的服務(wù)器
ip-hash(ip 哈希) — 用一個(gè)哈希函數(shù)來決定最新請(qǐng)求應(yīng)該被分發(fā)到哪一個(gè)服務(wù)器(基于客戶端的 ip).

舉個(gè)栗子

最簡(jiǎn)單的 nginx 負(fù)載均衡配置看起來像這樣：

http {
    upstream myapp1 {
        server srv1.example.com;
        server srv2.example.com;
        server srv3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp1;
        }
    }
}

在上面的例子中，有三個(gè)一樣的應(yīng)用跑在 srv1-srv3 服務(wù)器上。當(dāng)我們沒有配置任何負(fù)載均衡策略的時(shí)候，nginx 會(huì)采用默認(rèn)的負(fù)載均衡策略——輪詢。所有的請(qǐng)求都被代理到 myapp1 服務(wù)器群，然后 nginx 根據(jù) HTTP 負(fù)載均衡分發(fā)請(qǐng)求。

Nginx 反向代理包括對(duì) HTTP, HTTPS, FastCGI, uwsgi, SCGI, and memcached 的負(fù)載均衡策略。

如果想要配置 HTTPS 的負(fù)載均衡，只需要使用 “https” 協(xié)議就可以了。

當(dāng)設(shè)置 FastCGI, uwsgi, SCGI, or memcached 的負(fù)載均衡策略時(shí)，只需要使用分別使用 fastcgi_pass , uwsgi_pass , scgi_pass , and memcached_pass 指令就可以了。

另一種負(fù)載均衡策略是最少連接。當(dāng)一些連接完成所需時(shí)間更長(zhǎng)時(shí)，使用最少連接策略可以更公平地控制均衡負(fù)載。

當(dāng)使用最少連接負(fù)載均衡策略時(shí)，nginx 會(huì)把新請(qǐng)求分發(fā)給不太忙的服務(wù)器，從而避免分發(fā)過多的請(qǐng)求給忙碌的服務(wù)器造成過載。

只要把 least_conn 指令配置成服務(wù)器群配置的一部分 nginx 就會(huì)采用最少連接負(fù)載均衡策略：

upstream myapp1 {
    least_conn;
    server srv1.example.com;
    server srv2.example.com;
    server srv3.example.com;
}

值得注意的是，輪詢和最少連接負(fù)載均衡可能會(huì)把來自同一個(gè)客戶端的請(qǐng)求分發(fā)到不同的服務(wù)器。它們不保證同一個(gè)客戶端的請(qǐng)求會(huì)分發(fā)到同樣的服務(wù)器上。

如果需要把同一個(gè)客戶端請(qǐng)求分發(fā)到同樣的服務(wù)器的，換句話說就是讓客戶端的會(huì)話“持續(xù)”而又“有粘性”地選擇連接到特定的服務(wù)器，那么可以使用 ip 哈希負(fù)載均衡策略。

ip 哈希負(fù)載均衡策略會(huì)使用客戶端的 ip 地址作為哈希的 key 來決定選擇服務(wù)器群中某臺(tái)服務(wù)器來處理客戶端的請(qǐng)求。這種方式確保來自同一臺(tái)客戶端的請(qǐng)求會(huì)分發(fā)到同一臺(tái)服務(wù)器上，除非這臺(tái)服務(wù)器處于不可用狀態(tài)。

只需要把 ip_hash 指令添加到服務(wù)器群(upstream)配置中就可以使用 ip 哈希負(fù)載均衡策略了：

upstream myapp1 {
    ip_hash;
    server srv1.example.com;
    server srv2.example.com;
    server srv3.example.com;
}

除了上面三種負(fù)載均衡策略，我們還可以通過配置服務(wù)器權(quán)重來更深入地影響 nginx 負(fù)載均衡算法。

在上面幾個(gè)例子中，并沒有配置服務(wù)器權(quán)重，那么這意味著 nginx 在進(jìn)行負(fù)載均衡計(jì)算的時(shí)候會(huì)同等地看待配置的服務(wù)器。

假如有足夠的請(qǐng)求，并且請(qǐng)求的處理模式一致而且完成的速度足夠快，那么輪詢負(fù)載均衡策略意味著根據(jù)基本上一致的權(quán)重來分發(fā)請(qǐng)求到服務(wù)器上。

當(dāng)一個(gè)服務(wù)器被配置了權(quán)重的時(shí)候，權(quán)重值就會(huì)被當(dāng)做負(fù)載均衡算法決策因素的一部分。

upstream myapp1 {
    server srv1.example.com weight=3;
    server srv2.example.com;
    server srv3.example.com;
}

當(dāng)采用上面的配置的時(shí)候，每5個(gè)請(qǐng)求將會(huì)如下方式分發(fā)到應(yīng)用服務(wù)器上：
三個(gè)請(qǐng)求會(huì)分發(fā)到 srv1，一個(gè)會(huì)分發(fā)到 srv2，另一個(gè)會(huì)分發(fā)到 srv3

權(quán)重式負(fù)載均衡策略可以在最近版本的 nginx 運(yùn)用到最少連接和 ip hash 負(fù)載均衡策略中。

nginx 的反向代理實(shí)現(xiàn)包括了被動(dòng)的 health checks 策略。當(dāng)某個(gè)特定的服務(wù)器由于錯(cuò)誤而響應(yīng)失敗時(shí)，nginx 會(huì)把這臺(tái)服務(wù)器標(biāo)記為 failed，并且會(huì)在一短時(shí)間內(nèi)不把后續(xù)的請(qǐng)求分發(fā)到這臺(tái)服務(wù)器上。

max_fails 指令可以設(shè)置允許的在 fail_timeout 時(shí)間內(nèi)嘗試與服務(wù)器交互的最大連續(xù)失敗次數(shù)。max_fails 默認(rèn)為 1。當(dāng) max_fails 設(shè)置成 0 的時(shí)候，這臺(tái)服務(wù)器的 health checks 功能將會(huì)被禁用。fail_timeout 參數(shù)同時(shí)也定義了服務(wù)器被標(biāo)記為 failed 的時(shí)長(zhǎng)。服務(wù)器出錯(cuò)并且經(jīng)過 fail_timeout 的時(shí)間間隔之后， nginx 會(huì)開始優(yōu)雅地用活躍的客戶端請(qǐng)求來探測(cè)出錯(cuò)的服務(wù)器。如果這些探測(cè)成功了，那么這臺(tái)服務(wù)器將會(huì)被標(biāo)記為正常。

強(qiáng)烈建議讀完 max_fails 跟 fail_timeout 的鏈接。

另外，還有很多的命令以及參數(shù)可以控制 nginx 的負(fù)載均衡，例如 proxy_next_upstream , backup , down , and keepalive 。同時(shí)，可以通過閱讀 reference documentation 來獲取更多信息。

使用 NGINX 做 HTTP 負(fù)載均衡 - Agentd

http://nginx.org/en/docs/http...
http://nginx.org/en/docs/http...
http://nginx.org/en/docs/http...
http://nginx.org/en/docs/http...
http://blog.csdn.net/xiajun07...
http://blog.csdn.net/xiajun07...