流控是任何一個(gè)復(fù)雜系統(tǒng)都必須考慮的問題，本文介紹并比較了不同的流控算法，從而幫助我們可以基于系統(tǒng)需求和架構(gòu)選擇合適的方案。原文：Distributed Rate-Limiting Algorithms[1]BkZ28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)我們?cè)O(shè)計(jì)分布式流控系統(tǒng)（distributed rate-limiting system）時(shí)，需要用到哪些工具和算法？BkZ28資訊網(wǎng)——每日最新資訊28at.com

Joshua Hoehne @UnsplashBkZ28資訊網(wǎng)——每日最新資訊28at.com

Criteo是全球最大的廣告技術(shù)公司之一，隨著廣告市場的不斷發(fā)展，Criteo在過去幾年里一直致力于改進(jìn)API，幫助客戶更好的通過可編程接口訪問需要的服務(wù)。BkZ28資訊網(wǎng)——每日最新資訊28at.com

隨著越來越多的客戶使用新的API，很明顯，需要實(shí)現(xiàn)某種流量控制，以確保所有客戶端都能平等訪問資源，并保護(hù)API免受(惡意或錯(cuò)誤的)頻繁調(diào)用。BkZ28資訊網(wǎng)——每日最新資訊28at.com

流控似乎很簡單: 只允許給定的客戶端每分鐘執(zhí)行X個(gè)調(diào)用。在單個(gè)服務(wù)器實(shí)例上實(shí)現(xiàn)流控非常容易，可以很容易找到相關(guān)的庫來實(shí)現(xiàn)。但問題是我們的API托管在6個(gè)數(shù)據(jù)中心(歐洲、北美和亞洲)，每個(gè)數(shù)據(jù)中心都有多個(gè)實(shí)例，這意味著我們需要某種分布式流控系統(tǒng)。BkZ28資訊網(wǎng)——每日最新資訊28at.com

流控不僅與調(diào)用次數(shù)有關(guān)，還需要和客戶端同步當(dāng)前被限制的狀態(tài)(例如，使用專用的報(bào)頭和狀態(tài)碼)。但是本文將主要關(guān)注用于流控的算法和系統(tǒng)。BkZ28資訊網(wǎng)——每日最新資訊28at.com

利用負(fù)載均衡

在嘗試開發(fā)自己的系統(tǒng)之前，更重要的是查看現(xiàn)有的基礎(chǔ)設(shè)施是否能夠提供想要的特性。BkZ28資訊網(wǎng)——每日最新資訊28at.com

那么，部署在數(shù)據(jù)中心所有實(shí)例之前，并且已經(jīng)在負(fù)責(zé)檢查、路由流量的是什么？負(fù)載均衡器。大多數(shù)負(fù)載均衡器都提供了流控特性或某種可用于實(shí)現(xiàn)流控的抽象。例如，HAProxy有現(xiàn)成的可用于設(shè)置流控的stick tables[2]，可以在實(shí)例之間同步狀態(tài)，并且工作得很好。BkZ28資訊網(wǎng)——每日最新資訊28at.com

不幸的是，負(fù)載均衡不支持我們需要的某些特性(動(dòng)態(tài)限制、令牌自省token introspection、……)，因此我們需要自己實(shí)現(xiàn)這些特定的需求。BkZ28資訊網(wǎng)——每日最新資訊28at.com

初級(jí)方案

會(huì)話粘連（Sticky sessions）

說到負(fù)載均衡，如果給定客戶端的負(fù)載并不均衡，并且總是與單個(gè)實(shí)例交互

本文鏈接：http://www.www897cc.com/showinfo-26-86346-0.html五分鐘搞懂分布式流控算法

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： Nacos 并發(fā)小技巧之緩存實(shí)例信息

下一篇： 分享七個(gè)令人興奮的 Go-cli 項(xiàng)目