日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 知識百科

用Elastic Block Store(EBS)改善性能和數(shù)據(jù)可用性 譯文

來源: 責編: 時間:2023-08-07 16:30:18 241觀看
導讀 如今,許多數(shù)據(jù)庫即服務(DBaaS)解決方案將計算層和存儲層分開來,比如包括Amazon Aurora和Google BigQuery。由于數(shù)據(jù)存儲和數(shù)據(jù)復制可以由現(xiàn)有服務來處理,DBaaS無需擔心這種復雜性

如今,許多數(shù)據(jù)庫即服務(DBaaS)解決方案將計算層和存儲層分開來,比如包括Amazon Aurora和Google BigQuery。由于數(shù)據(jù)存儲和數(shù)據(jù)復制可以由現(xiàn)有服務來處理,DBaaS無需擔心這種復雜性,這種解決方案很有吸引力。然而,這種設計的性能有時可能不如傳統(tǒng)方式:使用本地磁盤作為存儲。yCZ28資訊網(wǎng)——每日最新資訊28at.com

本文將介紹如何認真選擇彈性塊存儲(EBS)類型,輔以巧妙的優(yōu)化,在EBS上部署DBaaS可以獲得比在本地磁盤上更好的性能。yCZ28資訊網(wǎng)——每日最新資訊28at.com

為什么要考慮EBS?yCZ28資訊網(wǎng)——每日最新資訊28at.com

為了解釋我們使用EBS的動機,先簡單介紹一下TiDB。TiDB是一種與MySQL兼容的分布式數(shù)據(jù)庫。TiDB Server是處理SQL請求的計算節(jié)點。Placement Driver(PD)則是TiDB的大腦,負責配置負載均衡,并提供元數(shù)據(jù)服務。TiKV是一種面向行的鍵值存儲系統(tǒng),處理事務查詢。TiFlash是處理分析查詢的列存儲擴展。本文主要介紹TiKV。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖1yCZ28資訊網(wǎng)——每日最新資訊28at.com

TiKV提供分布式鍵值服務。首先它將數(shù)據(jù)拆分成幾個Region,這是用于復制和負載均衡的最小數(shù)據(jù)單元。為了實現(xiàn)高可用性(HA),每個Region被復制三次,然后分布在不同的TiKV節(jié)點中。一個Region的副本構(gòu)成一個Raft組。TiDB可以接受這種情形:失去一個節(jié)點,從而在一些Region中失去一個副本。但是,同時失去兩個副本會導致問題,因為Raft組的大多數(shù)成員都失去了。因此Region不可用,無法再訪問其數(shù)據(jù)。需要人為干預來解決這類問題。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖2yCZ28資訊網(wǎng)——每日最新資訊28at.com

在部署TiDB Cloud時,我們有放置規(guī)則,保證一個Region的副本會分布在多個可用區(qū)(AZ)。失去一個可用區(qū)(AZ)不會對TiDB Cloud產(chǎn)生巨大影響。然而,如果出現(xiàn)AZ + 1故障(即一個可用區(qū)和另一個可用區(qū)中的至少一個節(jié)點同時出現(xiàn)故障),該Region將變得不可用。我們在生產(chǎn)環(huán)境中遇到過這樣的故障,花了好大的精力才讓TiDB集群恢復正常。為了避免再次遭遇這種痛苦的經(jīng)歷,EBS進入了我們的視線。yCZ28資訊網(wǎng)——每日最新資訊28at.com

AWS Elastic Block Store(EBS)是AWS提供的一種塊存儲服務,可以附加到EC2實例上。然而,EBS上的數(shù)據(jù)獨立于EC2實例,因此當EC2實例出現(xiàn)故障時,數(shù)據(jù)持續(xù)存在。當EC2實例出現(xiàn)故障時,可以使用Kubernetes,將EBS自動重新掛載到正常工作的EC2實例。此外,EBS卷是為關鍵任務系統(tǒng)設計的,因此它們可以在AZ內(nèi)復制。這意味著EBS不太可能出故障,因此我們就放心了。yCZ28資訊網(wǎng)——每日最新資訊28at.com

選擇合適的EBS卷類型yCZ28資訊網(wǎng)——每日最新資訊28at.com

基于SSD的EBS卷通常有四種類型:gp2、gp3、io1和io2。(我們在設計和實現(xiàn)TiDBCloud時,io2 Block Express還處于預覽模式,所以我們沒有考慮它。)下表總結(jié)了這些卷類型的特點。yCZ28資訊網(wǎng)——每日最新資訊28at.com

卷類型yCZ28資訊網(wǎng)——每日最新資訊28at.com

耐久性yCZ28資訊網(wǎng)——每日最新資訊28at.com

(%)yCZ28資訊網(wǎng)——每日最新資訊28at.com

帶寬yCZ28資訊網(wǎng)——每日最新資訊28at.com

(MB/s)yCZ28資訊網(wǎng)——每日最新資訊28at.com

IOPSyCZ28資訊網(wǎng)——每日最新資訊28at.com

(每GB)yCZ28資訊網(wǎng)——每日最新資訊28at.com

成本yCZ28資訊網(wǎng)——每日最新資訊28at.com

說明yCZ28資訊網(wǎng)——每日最新資訊28at.com

gp2yCZ28資訊網(wǎng)——每日最新資訊28at.com

99.8-99.9yCZ28資訊網(wǎng)——每日最新資訊28at.com

250yCZ28資訊網(wǎng)——每日最新資訊28at.com

3,突發(fā)式yCZ28資訊網(wǎng)——每日最新資訊28at.com

yCZ28資訊網(wǎng)——每日最新資訊28at.com

通用卷yCZ28資訊網(wǎng)——每日最新資訊28at.com

gp3yCZ28資訊網(wǎng)——每日最新資訊28at.com

99.8-99.9yCZ28資訊網(wǎng)——每日最新資訊28at.com

125-1000yCZ28資訊網(wǎng)——每日最新資訊28at.com

3000-16000yCZ28資訊網(wǎng)——每日最新資訊28at.com

yCZ28資訊網(wǎng)——每日最新資訊28at.com

通用卷,有靈活的帶寬yCZ28資訊網(wǎng)——每日最新資訊28at.com

io1yCZ28資訊網(wǎng)——每日最新資訊28at.com

99.8-99.9yCZ28資訊網(wǎng)——每日最新資訊28at.com

多達1000yCZ28資訊網(wǎng)——每日最新資訊28at.com

多達64000yCZ28資訊網(wǎng)——每日最新資訊28at.com

yCZ28資訊網(wǎng)——每日最新資訊28at.com

高IOPSyCZ28資訊網(wǎng)——每日最新資訊28at.com

io2yCZ28資訊網(wǎng)——每日最新資訊28at.com

99.999yCZ28資訊網(wǎng)——每日最新資訊28at.com

多達1000yCZ28資訊網(wǎng)——每日最新資訊28at.com

多達64000yCZ28資訊網(wǎng)——每日最新資訊28at.com

yCZ28資訊網(wǎng)——每日最新資訊28at.com

高IOPS,性能最佳yCZ28資訊網(wǎng)——每日最新資訊28at.com

這里可以進行對比。注意在下面圖中,四種類型的EBS卷附加到了r5b實例,而本地磁盤上的一番測量是在i3實例上進行的。這是由于r5b實例只能使用EBS。我們使用i3作為相仿的替代選擇。每個圖顯示了所有操作的平均延遲和第 99個百分位延遲。yCZ28資訊網(wǎng)——每日最新資訊28at.com

我們從讀寫延遲開始橫向比較。第一個工作負載很簡單。它有1000 IOPS,每個I/O為4 KB。以下兩張圖顯示了平均延遲和第99個百分位延遲。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖3yCZ28資訊網(wǎng)——每日最新資訊28at.com

只有一個線程的簡單工作負載的寫延遲。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖4yCZ28資訊網(wǎng)——每日最新資訊28at.com

只有一個線程的簡單工作負載的讀延遲。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

我們使用類似的設置設計了類似的工作負載。這次我們使用8個線程為磁盤提供總共3000個IOPS,每個I/O仍然是4 KB。同樣,我們概述了平均延遲和第99個百分比延遲,并繪制成以下兩圖。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖5yCZ28資訊網(wǎng)——每日最新資訊28at.com

有八個線程的簡單工作負載的寫延遲。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖6yCZ28資訊網(wǎng)——每日最新資訊28at.com

有八個線程的簡單工作負載的讀延遲。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

從前面兩個實驗來看,本地磁盤似乎更勝一籌。真是這樣嗎?這是另一個基準測試,顯示的情況略有不同。我們設計了混合工作負載來模擬TiKV IO的使用:有小的順序?qū)懭雭砟M前臺預寫式日志(WAL)寫入,還有大量的順序?qū)懭雭砟M壓縮寫入。回想一下,TiDB使用RocksDB作為存儲引擎。RocksDB基于日志結(jié)構(gòu)化合并樹(LSM 樹),它定期壓縮最近寫入的數(shù)據(jù)。我們也有小的隨機讀取來模擬前臺讀取。yCZ28資訊網(wǎng)——每日最新資訊28at.com

我們發(fā)現(xiàn),當后臺I/O變得更密集時,前臺延遲增加,本地磁盤和EBS之間的延遲差距會變小,見下圖。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖7. 一些綜合工作負載的平均操作延遲。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

我們針對TiDB運行TPC-C工作負載(這是更全面的基準測試)后,EBS 和本地磁盤之間的性能差距變得更小了。下圖顯示了結(jié)果。使用的TiDB版本是v5.0.0。我們在EBS卷類型不一的r5b.2xlarge實例上或使用本地nvme磁盤的i3.2xlarge實例上部署了三個TiKV節(jié)點。TiDB 節(jié)點、Placement Driver(PD)和TPC-C客戶端部署在c5.4xlarge實例上。我們在實驗環(huán)境中使用了5000個倉庫(大約350 GB數(shù)據(jù)),分別有50個、200個和800個客戶端。結(jié)果顯示在以下三個圖中。第一個圖顯示了TPC-C工作負載中的每分鐘事務數(shù)(TPMC)。第二個圖顯示了事務的平均延遲,以毫秒為單位。第三個圖顯示了第99個百分位延遲,以毫秒為單位。yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖8. TPC-C工作負載中的每分鐘事務(TPMC)。(數(shù)字越大越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖9. TPC-C 工作負載中的平均操作延遲(ms)。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

圖10. TPC-C 工作負載中的第99個百分位操作延遲(ms)。(數(shù)字越小越好)yCZ28資訊網(wǎng)——每日最新資訊28at.com

通常來說,我們可以看到使用EBS的實例可以達到與使用本地磁盤的實例相仿的性能,有時甚至更好。這是由于TiKV在這個工作負載中是CPU受限的,在我們嘗試過的其他許多基準測試中也是如此。I/O性能不是瓶頸。由于帶EBS的實例類型是r5b,它的CPU比帶本地磁盤的實例類型i3更好,性能結(jié)果看起來相仿,甚至更好。yCZ28資訊網(wǎng)——每日最新資訊28at.com

此外,在第三個圖中(TPC-C工作負載中的第99個百分位操作延遲),有800個線程時,EBS卷類型gp2的第99個百分位延遲飆升。這是由于就gp2而言,帶寬達到了極限。yCZ28資訊網(wǎng)——每日最新資訊28at.com

最后,我們選擇gp3作為EBS類型。EBS卷io2并不在我們的考慮范圍之內(nèi),因為在當初設計和實現(xiàn)TiDB Cloud時,r5b實例無法使用它。此外,當時io2 block express仍處于預覽模式。EBS卷io1的延遲整體上與gp2相當,io1提供了更高的帶寬IOPS限制。然而,io1有基于預置IOPS的額外成本。EBS卷gp2的帶寬和IOPS有限,而且無法配置。這給TiDB帶來了額外的限制。因而,我們選擇了gp3。yCZ28資訊網(wǎng)——每日最新資訊28at.com

原文標題:Improve Performance and Data Availability with Elastic Block Store (EBS),作者:Bokang ZhangyCZ28資訊網(wǎng)——每日最新資訊28at.com

鏈接:yCZ28資訊網(wǎng)——每日最新資訊28at.com

https://www.datasciencecentral.com/improve-performance-and-data-availability-with-elastic-block-store-ebs/yCZ28資訊網(wǎng)——每日最新資訊28at.com

 yCZ28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-119-2333-0.html用Elastic Block Store(EBS)改善性能和數(shù)據(jù)可用性 譯文

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: Kafka 萬億級消息實踐之資源組流量掉零故障排查分析

下一篇: 煉丹速度×7!你的Mac電腦也能在PyTorch訓練中用GPU加速了

標簽:
  • 熱門焦點
  • 影音體驗是真的強 簡單聊聊iQOO Pad

    大公司的好處就是產(chǎn)品線豐富,非常細分化的東西也能給你做出來,例如早先我們看到了新的vivo Pad2,之后我們又在iQOO Neo8 Pro的發(fā)布會上看到了iQOO的首款平板產(chǎn)品iQOO Pad。雖
  • 學習JavaScript的10個理由...

    作者 | Simplilearn編譯 | 王瑞平當你決心學習一門語言的時候,很難選擇到底應該學習哪一門,常用的語言有Python、Java、JavaScript、C/CPP、PHP、Swift、C#、Ruby、Objective-
  • 讓我們一起聊聊文件的操作

    文件【1】文件是什么?文件是保存數(shù)據(jù)的地方,是數(shù)據(jù)源的一種,比如大家經(jīng)常使用的word文檔、txt文件、excel文件、jpg文件...都是文件。文件最主要的作用就是保存數(shù)據(jù),它既可以保
  • 在線圖片編輯器,支持PSD解析、AI摳圖等

    自從我上次分享一個人開發(fā)仿造稿定設計的圖片編輯器到現(xiàn)在,不知不覺已過去一年時間了,期間我經(jīng)歷了裁員失業(yè)、面試找工作碰壁,寒冬下一直沒有很好地履行計劃.....這些就放在日
  • 一條抖音4億人圍觀 ! 這家MCN比無憂傳媒還野

    作者:Hiu 來源:互聯(lián)網(wǎng)品牌官01 擦邊少女空降熱搜,幕后推手曝光被網(wǎng)友譽為“純欲天花板”的女網(wǎng)紅井川里予,近期因為一組哥特風照片登上熱搜,引發(fā)了一場互聯(lián)網(wǎng)世界關于
  • 年輕人的“職場羞恥感”,無處不在

    作者:馮曉亭 陶 淘 李 欣 張 琳 馬舒葉來源:燃次元“人在職場,應該選擇什么樣的著裝?”近日,在網(wǎng)絡上,一個與著裝相關的帖子引發(fā)關注,在該帖子里,一位在高級寫字樓亞洲金
  • 2299元起!iQOO Pad開啟預售:性能最強天璣平板

    5月23日,iQOO如期舉行了新品發(fā)布會,除了首發(fā)安卓最強旗艦處理器的iQOO Neo8系列新機外,還在發(fā)布會上推出了旗下首款平板電腦——iQOO Pad,其搭載了天璣
  • iQOO Neo8 Pro搶先上架:首發(fā)天璣9200+ 安卓性能之王

    經(jīng)過了一段時間的密集爆料,昨日iQOO官方如期對外宣布:將于5月23日推出全新的iQOO Neo8系列新品,官方稱這是一款擁有旗艦級性能調(diào)校的作品。隨著發(fā)布時
  • 三翼鳥智能家居亮相電博會,讓用戶體驗更真實

    2021電博會在青島國際會展中心開幕中,三翼鳥直接把“家”搬到了現(xiàn)場,成為了展會的一大看點。這也是三翼鳥繼9月9日發(fā)布了行業(yè)首個一站式定制智慧家平臺后的
Top 主站蜘蛛池模板: 义马市| 苏州市| 海门市| 崇信县| 敦化市| 贵定县| 芒康县| 荆州市| 兴化市| 聂荣县| 忻州市| 蕲春县| 迁安市| 大荔县| 靖安县| 平罗县| 泰州市| 渝北区| 林西县| 长岛县| 顺平县| 桐乡市| 冷水江市| 福贡县| 阳城县| 阜平县| 南安市| 婺源县| 鞍山市| 灌云县| 武清区| 名山县| 定边县| 南木林县| 象山县| 万荣县| 襄城县| 定西市| 渝中区| 侯马市| 泰宁县|