隨著分布式數(shù)據(jù)庫日漸成熟,在推廣使用上開始步入深水區(qū)。在這一過程中,對企業(yè)的架構(gòu)、運維、開發(fā)都帶來不小的沖擊,如何快速掌握這一新技術(shù),盡快落地成為大家關(guān)注的焦點。本文從開發(fā)者的視角出發(fā),討論使用分布式數(shù)據(jù)庫所面臨的難點之一:數(shù)據(jù)分片策略,這也是阻礙很多企業(yè)上到分布式數(shù)據(jù)庫的核心問題。
分布式數(shù)據(jù)庫的核心能力之一,就是通過數(shù)據(jù)分片存儲,來承載更大的數(shù)據(jù)規(guī)模和計算負載。數(shù)據(jù)分片,是把數(shù)據(jù)庫橫向擴展到多個物理節(jié)點上的一種分布式技術(shù)。可以理解為將表數(shù)據(jù)按照特定的分片規(guī)則水平切分成若干片段(shard),使這些數(shù)據(jù)片段分布在不同物理節(jié)點上。數(shù)據(jù)分片從大類可分為垂直分片和水平分片,前者是按業(yè)務(wù)類別進行拆分,常見為業(yè)務(wù)拆庫;后者則是以字段為依據(jù),按照一定策略拆分到若干表中。本文后面所談的數(shù)據(jù)分片,是針對后者。那么如何將數(shù)據(jù)從單體更換為分布式,這就需要考慮數(shù)據(jù)分片策略。數(shù)據(jù)分片策略包括分片算法、數(shù)據(jù)分布、分布關(guān)系等,簡單描述參見下表。
圖片
業(yè)內(nèi)分布式數(shù)據(jù)庫產(chǎn)品,針對數(shù)據(jù)分片策略通常有三種做法。一種是基于主鍵/唯一索引/隱含主鍵等做統(tǒng)一數(shù)據(jù)分片,即用戶無需人為設(shè)置分片策略;一種是開放若干數(shù)據(jù)分片算法,用戶可自行創(chuàng)建數(shù)據(jù)對象時人為指定;還有一些數(shù)據(jù)庫中間件產(chǎn)品,支持更為靈活的分片方式,可以讓用戶自行擴展。上面三種,我們可命名為內(nèi)置、開放、自定義。下面從開發(fā)者角度,簡單對比下這幾種方式。
圖片
這里解釋一下:
除了第一種方式外,其余兩種都涉及一個問題就是現(xiàn)有數(shù)據(jù)對象如何拆分?好的拆分策略,一定是兼顧業(yè)務(wù)模型、性能最佳、穩(wěn)定可靠、研發(fā)改造、運維難點等多種因素下,結(jié)合分布式數(shù)據(jù)庫的特點而做的最優(yōu)解,這是在多種因素下平衡的結(jié)果。在具體實施上,需要收集大量信息后才能做出決定,下面將主要部分整理為一個表格。
圖片
圖片
從上表可見,數(shù)據(jù)分片設(shè)計過程中,需考慮的問題很多,是一個多維立體的模型分析過程。包括對企業(yè)的業(yè)務(wù)流、數(shù)據(jù)流、數(shù)據(jù)模型、業(yè)務(wù)特征、基礎(chǔ)環(huán)境等諸多方面的考慮。上述還需要結(jié)合分布式架構(gòu)數(shù)據(jù)庫的能力理解才能得出一個相對“適合”的設(shè)計方案。這對于企業(yè)來說是非常痛苦的,也是阻礙企業(yè)上到分布式數(shù)據(jù)庫的難點之一。不能將上述包袱完全推給用戶去完成,而是盡量在數(shù)據(jù)庫產(chǎn)品側(cè)給出答案,即產(chǎn)品需具備數(shù)據(jù)分片優(yōu)化推薦功能。如果分片設(shè)計不合理,可能造成影響到業(yè)務(wù)系統(tǒng)的穩(wěn)定可靠、服務(wù)體驗,往往服務(wù)體驗是忽快忽慢且最可怕是某一些時刻或者業(yè)務(wù)場景是最慢的,從而導(dǎo)致排錯分析的困難復(fù)雜增加。當然,開始設(shè)計很難做到十全十美,但系統(tǒng)在運行中經(jīng)過不斷摸索后還需數(shù)據(jù)庫具備一定的在線分片調(diào)整能力,例如針對分片類型或分片字段的調(diào)整。在這一過程中要做到不中斷現(xiàn)有業(yè)務(wù)服務(wù)的正常運行,其次要做到盡量少地影響現(xiàn)有業(yè)務(wù)服務(wù)的性能體驗(也即控制資源占用對生產(chǎn)環(huán)境的業(yè)務(wù)服務(wù)影響),最后要做到盡量快地完成分片信息的調(diào)整。
目前國內(nèi)很多分布式數(shù)據(jù)庫廠商都加強了遷移能力的支持,一般是通過外置工具的方式提供收集、評估、輔助遷移、驗證等一系列流程的支持。下圖是以O(shè)ceanBase的OMA工具舉例,說明其提供的支持能力。
圖片
通過上圖可見,產(chǎn)品針對數(shù)據(jù)分片策略部分做的不多,主要是對兼容類的評估工具;即根據(jù)數(shù)據(jù)庫自身能力,評估原有對象、SQL語句需要做哪些改造等。尚沒有實現(xiàn)數(shù)據(jù)分片策略的推薦工作,處于空白。其實去年公眾號也發(fā)布過一篇文章,就是想通過小工具去完成這一過程,只是目前還未看到有廠商產(chǎn)品支持。相信未來這一能力得到支持后,將加快國內(nèi)企業(yè)選擇分布式數(shù)據(jù)庫實踐之路。
本文鏈接:http://www.www897cc.com/showinfo-26-35587-0.html破解分布式庫使用難點:數(shù)據(jù)分片策略
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com