解讀nginx負(fù)載均衡的5種策略
要理解負(fù)載均衡,必須先搞清楚正向代理和反向代理。
負(fù)載均衡的幾種常用方式
1、輪詢(默認(rèn))每個(gè)請求按時(shí)間順序逐一分配到不同的后端服務(wù)器,如果后端服務(wù)器down掉,能自動(dòng)剔除。
upstream backserver { server 192.168.0.14; server 192.168.0.15;}2、weight指定輪詢幾率,weight和訪問比率成正比,用于后端服務(wù)器性能不均的情況。
upstream backserver { server 192.168.0.14 weight=3; server 192.168.0.15 weight=7;}權(quán)重越高,在被訪問的概率越大,如上例,分別是30%,70%。
3、ip_hash上述方式存在一個(gè)問題就是說,在負(fù)載均衡系統(tǒng)中,假如用戶在某臺(tái)服務(wù)器上登錄了,那么該用戶第二次請求的時(shí)候,因?yàn)槲覀兪秦?fù)載均衡系統(tǒng),每次請求都會(huì)重新定位到服務(wù)器集群中的某一個(gè),那么已經(jīng)登錄某一個(gè)服務(wù)器的用戶再重新定位到另一個(gè)服務(wù)器,其登錄信息將會(huì)丟失,這樣顯然是不妥的。
我們可以采用ip_hash指令解決這個(gè)問題,如果客戶已經(jīng)訪問了某個(gè)服務(wù)器,當(dāng)用戶再次訪問時(shí),會(huì)將該請求通過哈希算法,自動(dòng)定位到該服務(wù)器。
每個(gè)請求按訪問ip的hash結(jié)果分配,這樣每個(gè)訪客固定訪問一個(gè)后端服務(wù)器,可以解決session的問題。
upstream backserver { ip_hash; server 192.168.0.14:88; server 192.168.0.15:80;}4、fair(第三方)按后端服務(wù)器的響應(yīng)時(shí)間來分配請求,響應(yīng)時(shí)間短的優(yōu)先分配。
upstream backserver { server server1; server server2; fair;}5、url_hash(第三方)按訪問url的hash結(jié)果來分配請求,使每個(gè)url定向到同一個(gè)(對應(yīng)的)后端服務(wù)器,后端服務(wù)器為緩存時(shí)比較有效。
upstream backserver { server squid1:3128; server squid2:3128; hash $request_uri; hash_method crc32;}在需要使用負(fù)載均衡的server中增加
proxy_pass http://backserver/; upstream backserver{ ip_hash; server 127.0.0.1:9090 down; (down 表示單前的server暫時(shí)不參與負(fù)載) server 127.0.0.1:8080 weight=2; (weight 默認(rèn)為1.weight越大,負(fù)載的權(quán)重就越大) server 127.0.0.1:6060; server 127.0.0.1:7070 backup; (其它所有的非backup機(jī)器down或者忙的時(shí)候,請求backup機(jī)器) }max_fails :允許請求失敗的次數(shù)默認(rèn)為
1.當(dāng)超過最大次數(shù)時(shí),返回proxy_next_upstream 模塊定義的錯(cuò)誤
fail_timeout:max_fails次失敗后,暫停的時(shí)間
配置實(shí)例:
#user nobody;worker_processes 4;events {# 最大并發(fā)數(shù)worker_connections 1024;}http{ # 待選服務(wù)器列表 upstream myproject{# ip_hash指令,將同一用戶引入同一服務(wù)器。ip_hash;server 125.219.42.4 fail_timeout=60s;server 172.31.2.183; } server{# 監(jiān)聽端口listen 80;# 根目錄下location / {# 選擇哪個(gè)服務(wù)器列表 proxy_pass http://myproject;} }}負(fù)載均衡的五種策略是什么?
實(shí)行負(fù)載均衡的目的就是讓請求到達(dá)不同的服務(wù)器上。一次請求到服務(wù)器之間,有那么多環(huán)節(jié),因此可以實(shí)現(xiàn)的方法也有很多種。
負(fù)載均衡的五種策略1、輪詢(默認(rèn))每個(gè)請求按時(shí)間順序逐一分配到不同的后端服務(wù)器,如果后端服務(wù)器down掉,能自動(dòng)剔除。
2、指定權(quán)重,指定輪詢幾率,weight和訪問比率成正比,用于后端服務(wù)器性能不均的情況。
3、IP綁定 ip_hash,每個(gè)請求按訪問ip的hash結(jié)果分配,這樣每個(gè)訪客固定訪問一個(gè)后端服務(wù)器,可以解決session的問題。
4、fair(第三方)按后端服務(wù)器的響應(yīng)時(shí)間來分配請求,響應(yīng)時(shí)間短的優(yōu)先分配。
5、url_hash(第三方)按訪問url的hash結(jié)果來分配請求,使每個(gè)url定向到同一個(gè)后端服務(wù)器,后端服務(wù)器為緩存時(shí)比較有效。
負(fù)載均衡實(shí)現(xiàn)的方法HTTP重定向負(fù)載均衡HTTP重定向負(fù)載均衡有一臺(tái)重定向服務(wù)器,它也是一臺(tái)普通的服務(wù)器,其唯一的功能就是根據(jù)用戶的HTTP請求計(jì)算一臺(tái)應(yīng)用集群中服務(wù)器的地址,并將此地址寫入HTTP重定向響應(yīng)中返回給用戶。
這種方案實(shí)現(xiàn)起來簡單,但是需要瀏覽器請求兩次服務(wù)器才能完成。并且重定向服務(wù)器很容易編程瓶頸,因?yàn)橐淮沃囟ㄏ蚍祷氐倪^程,也是一次標(biāo)準(zhǔn)HTTP請求,如果集群內(nèi)有10臺(tái)機(jī)器,那HTTP重定向服務(wù)器的流量將是應(yīng)用服務(wù)器的10倍,如果有100臺(tái)估計(jì)就宕機(jī)了,所以伸縮性能受到了很大限制。使用302響應(yīng)碼重定向不利于網(wǎng)站SEO。
DNS域名解析負(fù)載均衡這是利用DNS處理域名解析請求的同時(shí)進(jìn)行負(fù)載均衡處理的一種方案。在DNS中配置多個(gè)A記錄,每次域名解析請求都會(huì)根據(jù)負(fù)載均衡算法計(jì)算一個(gè)不同的IP地址返回。
DNS域名解析負(fù)載均衡的優(yōu)點(diǎn)是將負(fù)載均衡的工作轉(zhuǎn)交給DNS,省掉了網(wǎng)站管理維護(hù)負(fù)載均衡服務(wù)器的麻煩,同時(shí)還可以使用智能DNS可以基于地理位置或者ISP來做域名解析,用戶將會(huì)得到距離最近或者速度最快的一個(gè)服務(wù)器地址,這樣可以加快用戶的訪問速度,改善性能。
但是這種方法也有很大的缺點(diǎn),DNS是多級解析,每一級都會(huì)緩存DNS記錄,如果某個(gè)服務(wù)器變動(dòng)了,DNS記錄更新的時(shí)間將會(huì)很長,這個(gè)速度取決于域名服務(wù)商。一般大型網(wǎng)站都會(huì)使用DNS域名解析,利用域名解析作為一級負(fù)載均衡手段。你可以使用 dig <域名> 的方法查看某個(gè)域名的A記錄,你會(huì)發(fā)現(xiàn)很多網(wǎng)站會(huì)有多條A記錄。
反向代理負(fù)載均衡這種方法就是使用反向代理服務(wù)器,它一般在web服務(wù)器前面,這個(gè)位置也正好是負(fù)載均衡服務(wù)器的位置,所以大多數(shù)反向代理服務(wù)器同時(shí)也提供負(fù)載均衡的功能。由于web服務(wù)器不直接對外提供訪問,因此web服務(wù)器不需要使用外部IP,而反向代理服務(wù)器則需要配置雙網(wǎng)卡和內(nèi)部外部兩套IP地址。
反向代理服務(wù)器轉(zhuǎn)發(fā)請求是在HTTP協(xié)議層面,因此也叫應(yīng)用層負(fù)載均衡,由于應(yīng)用層在七層網(wǎng)絡(luò)模型中的第七層,所以一般也稱為七層負(fù)載均衡。優(yōu)點(diǎn)就是和反向代理功服務(wù)器功能集成在一起,部署簡單。缺點(diǎn)是反向代理服務(wù)器是所有請求和響應(yīng)的中轉(zhuǎn)站,其性能可能會(huì)成為瓶頸。
網(wǎng)絡(luò)層負(fù)載均衡這種方法是在網(wǎng)絡(luò)層通過修改請求目標(biāo)地址進(jìn)行負(fù)載均衡,網(wǎng)絡(luò)層在七層網(wǎng)絡(luò)層模型的第四層,所以也叫做四層負(fù)載均衡,也叫做IP層負(fù)載均衡。
請求達(dá)到負(fù)載均衡服務(wù)器后,由負(fù)載均衡服務(wù)器在操作系統(tǒng)內(nèi)核進(jìn)程獲取網(wǎng)絡(luò)數(shù)據(jù)包,根據(jù)負(fù)載均衡算法得到一臺(tái)真實(shí)web服務(wù)器的地址,然后修改請求的目的地址到這臺(tái)真實(shí)的web服務(wù)器地址,等到web服務(wù)器處理完成后,響應(yīng)數(shù)據(jù)包回到負(fù)載均衡服務(wù)器,再將數(shù)據(jù)包源地址修改為自身的IP(負(fù)載均衡服務(wù)器的IP)地址發(fā)送給用戶瀏覽器
這里關(guān)鍵在于真實(shí)無力web服務(wù)器響應(yīng)數(shù)據(jù)包如何返回給負(fù)載均衡服務(wù)器。一種是源地址轉(zhuǎn)換(SNAT),第二種是負(fù)載均衡服務(wù)器作為網(wǎng)關(guān)服務(wù)器。網(wǎng)絡(luò)層的負(fù)載均衡在內(nèi)核進(jìn)程完成數(shù)據(jù)轉(zhuǎn)發(fā),有更好的性能。但是由于響應(yīng)請求的流量要經(jīng)過負(fù)載均衡服務(wù)器,容易成為瓶頸。
總結(jié)以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持好吧啦網(wǎng)。
相關(guān)文章:
1. Nginx配置Tcp負(fù)載均衡的方法2. Nginx使用ngx_http_upstream_module實(shí)現(xiàn)負(fù)載均衡功能示例3. win2003 使用DNS服務(wù)器實(shí)現(xiàn)負(fù)載均衡4. 使用nginx進(jìn)行負(fù)載均衡的搭建全過程5. nginx sticky實(shí)現(xiàn)基于cookie負(fù)載均衡示例詳解6. nginx七層負(fù)載均衡配置詳解7. Nginx負(fù)載均衡之upstream模塊簡介與使用詳解8. Nginx Tomcat負(fù)載均衡動(dòng)靜分離原理解析9. Windows Server 2019 網(wǎng)絡(luò)負(fù)載均衡服務(wù)配置與管理(理論+網(wǎng)絡(luò)拓?fù)浼罢f明)10. 利用nginx實(shí)現(xiàn)動(dòng)靜分離的負(fù)載均衡集群實(shí)戰(zhàn)教程
