一個(gè)大型網(wǎng)絡(luò)平臺(tái)能輕松面對(duì)數(shù)百萬(wàn)請(qǐng)求而不產(chǎn)生崩潰,負(fù)載均衡器(Load Balancer)是絕對(duì)的關(guān)鍵組件。
負(fù)載均衡器會(huì)在多個(gè)服務(wù)器之間分配工作流,也就是將用戶請(qǐng)求轉(zhuǎn)發(fā)到不同的機(jī)器上,可以確保服務(wù)的高可用性、響應(yīng)速度和可擴(kuò)展性。那么問(wèn)題來(lái)了,負(fù)載均衡器的背后會(huì)有很多服務(wù)器,那么這些服務(wù)器之間要如何分配請(qǐng)求呢?顯然這就涉及到了負(fù)載均衡算法,而了解核心的負(fù)載均衡算法可以讓我們更好地設(shè)計(jì)和優(yōu)化應(yīng)用程序,以及故障排除。
負(fù)載均衡算法分為兩大類:靜態(tài)和動(dòng)態(tài)。
下面我們就來(lái)介紹這每一種算法的區(qū)別,并深入討論它的工作原理和優(yōu)缺點(diǎn)。
靜態(tài)負(fù)載均衡算法只負(fù)責(zé)將請(qǐng)求轉(zhuǎn)發(fā)到服務(wù)器,而不會(huì)考慮服務(wù)器的實(shí)時(shí)條件和性能指標(biāo),所以它的優(yōu)勢(shì)是簡(jiǎn)單,缺點(diǎn)是適應(yīng)性和精確性較差。而 Round Robin 在概念上是最簡(jiǎn)單的靜態(tài)負(fù)載均衡算法,它會(huì)將請(qǐng)求均勻地轉(zhuǎn)發(fā)給每一個(gè)服務(wù)器。
每來(lái)一個(gè)請(qǐng)求,就按照順序轉(zhuǎn)發(fā)給每一個(gè)服務(wù)器,比如請(qǐng)求 1 轉(zhuǎn)發(fā)給 A,請(qǐng)求 2 轉(zhuǎn)發(fā)給 B,請(qǐng)求 3 轉(zhuǎn)發(fā)給 C。然后請(qǐng)求 4 再轉(zhuǎn)發(fā)給 A,不斷循環(huán)往復(fù),就是將請(qǐng)求均勻分配到每個(gè)服務(wù)器上。當(dāng)然我們這里只用三臺(tái)服務(wù)器舉例,更多的服務(wù)器也是同樣的轉(zhuǎn)發(fā)方式。
Round Robin 這種算法易于實(shí)現(xiàn)和理解,如果你的服務(wù)器配置都是一樣的,那么 Round Robin 也是一個(gè)不錯(cuò)的負(fù)載均衡算法,雖然它比較簡(jiǎn)單。但現(xiàn)實(shí)情況是,不同服務(wù)器的處理能力可能不一致,那么此時(shí) Round Robin 算法就會(huì)有幾率導(dǎo)致處理能力較弱的服務(wù)器出現(xiàn)過(guò)載,因此你需要對(duì)服務(wù)器的資源進(jìn)行監(jiān)控。
因?yàn)橥粋€(gè)用戶的請(qǐng)求會(huì)轉(zhuǎn)發(fā)到相同的服務(wù)器,那么就可以將相關(guān)數(shù)據(jù)提前保存起來(lái),從而提升性能。但由于新來(lái)的用戶是隨機(jī)分配的,會(huì)容易出現(xiàn)負(fù)載不均衡的情況。
服務(wù)器 A、B、C 的權(quán)重比值為 3: 1: 1,所以假設(shè)有 5 個(gè)請(qǐng)求,服務(wù)器 A 要處理 3 個(gè),服務(wù)器 B、C 分別處理 1 個(gè)。加權(quán)輪詢法允許我們考慮服務(wù)器的異構(gòu)能力,但缺點(diǎn)是必須手動(dòng)配置權(quán)重,這在動(dòng)態(tài)變化的場(chǎng)景中不夠靈活。
如果哈希函數(shù)選擇得當(dāng),那么請(qǐng)求可以被均勻分發(fā),然而選擇一個(gè)好的哈希函數(shù)是具有挑戰(zhàn)性的。
Least Connections 算法會(huì)將每個(gè)新的請(qǐng)求轉(zhuǎn)發(fā)到當(dāng)前活躍連接數(shù)最少的服務(wù)器,顯然這就需要負(fù)載均衡器實(shí)時(shí)跟蹤每個(gè)后端服務(wù)器上的活躍連接數(shù)。
如果再來(lái)一個(gè)新請(qǐng)求,它會(huì)被轉(zhuǎn)發(fā)給服務(wù)器 A。因此最小連接算法可以靈活地對(duì)請(qǐng)求進(jìn)行分配,以確保每臺(tái)機(jī)器都能最大程度的處理請(qǐng)求,不會(huì)出現(xiàn)資源閑置。但如果連接不均勻地堆積,負(fù)載可能不經(jīng)意地集中在某些服務(wù)器上。
這種方法具有高度自適應(yīng)性和反應(yīng)迅速的特點(diǎn),但它需要持續(xù)地監(jiān)測(cè)后端服務(wù)器的延遲,這會(huì)帶來(lái)顯著的開(kāi)銷并增加復(fù)雜性。并且它也沒(méi)有考慮每個(gè)服務(wù)器已經(jīng)有多少個(gè)正在處理的請(qǐng)求,它只是將請(qǐng)求轉(zhuǎn)發(fā)給延遲最低的服務(wù)器。
以上就是常見(jiàn)的 6 種負(fù)載均衡算法,總的來(lái)說(shuō),簡(jiǎn)單的靜態(tài)算法和更自適應(yīng)的動(dòng)態(tài)算法之間存在明顯的權(quán)衡,我們需要考慮特定的性能目標(biāo)、能力和約束來(lái)選擇負(fù)載均衡策略。
像輪詢這樣的靜態(tài)算法很適合無(wú)狀態(tài)的應(yīng)用程序,而動(dòng)態(tài)算法則有助于優(yōu)化大型復(fù)雜應(yīng)用的響應(yīng)時(shí)間和可用性,至于具體選擇哪種算法則取決于當(dāng)前的業(yè)務(wù)。
本文鏈接:http://www.www897cc.com/showinfo-26-16617-0.html每個(gè)程序員都應(yīng)該知道的六種負(fù)載均衡算法
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com