分布式系統(tǒng)中的CAP理論，面試必問，你理解了嘛？
對于剛剛接觸分布式系統(tǒng)的小伙伴們來說，一提起分布式系統(tǒng)，就感覺高大上，深不可測。而且看了很多書和視頻還是一臉懵逼。這篇文章主要使用大白話的方式，帶你理解一下分布式系統(tǒng)
在之前的文章中我們談到過，相比 C/C++ 語言，Java 語言在運(yùn)行效率方面要稍遜一些，因?yàn)?Java 應(yīng)用程序是在虛擬機(jī)上運(yùn)行，而 C/C++ 程序是直接編譯成平臺相應(yīng)的機(jī)器碼來運(yùn)行程序。
從虛擬機(jī)對外發(fā)布開始，開發(fā)團(tuán)隊(duì)一直在努力試圖縮小 Java 與 C/C++ 語言在運(yùn)行效率上的差距。從實(shí)際的結(jié)果來看，確實(shí)成果顯著。
本文就來聊聊 HotSpot 虛擬機(jī)為了提升 Java 程序的執(zhí)行效率，都實(shí)現(xiàn)了哪些激動人心的優(yōu)化技術(shù)。
JIT 編譯器，也稱為即時(shí)編譯器，它是 JVM 的重要組成部分。與我們經(jīng)常用的生成 Java 字節(jié)碼的javac編譯器不同，JIT 編譯器是實(shí)現(xiàn) Java 程序執(zhí)行效率提升的核心利器。
經(jīng)常有面試官會提出這樣的一個(gè)問題：Java 程序是解釋執(zhí)行還是編譯執(zhí)行？
剛開始學(xué)習(xí) Java 的同學(xué)，大概率會認(rèn)為 Java 是編譯執(zhí)行，其執(zhí)行流程類似于如下圖。
圖片
源碼程序.java文件，通過javac命令編譯成.class字節(jié)碼，最后通過java命令在虛擬機(jī)中利用解釋器來執(zhí)行代碼。其中虛擬機(jī)的解釋器作用，就是將字節(jié)碼的操作指令和真正的平臺體系之間的指令建立映射，比如把 Java 的load指令轉(zhuǎn)換成native code的load指令，以此來完成程序的執(zhí)行。
其實(shí)，準(zhǔn)確的說，Java 既有解釋執(zhí)行，也有編譯執(zhí)行，其工作流程大致可以用如下圖來描述。
圖片
其中，JIT 編譯器會將熱點(diǎn)代碼編譯成本地平臺相關(guān)的機(jī)器碼，并進(jìn)行各種層次的優(yōu)化，從而實(shí)現(xiàn)程序執(zhí)行效率的提升。
JIT 編譯器的出現(xiàn)，可以說補(bǔ)強(qiáng)了虛擬機(jī)邊運(yùn)行邊解釋的低性能問題。
也許有的同學(xué)會提出這樣的疑問，既然引入了 JIT 編譯器可以顯著提升程序執(zhí)行效率，那 HotSpot 為什么不直接采用 JIT 編譯器來執(zhí)行呢？
簡單的說，解釋器和編譯器各有優(yōu)勢。
這就是為什么 Java 程序既有解釋執(zhí)行，也有編譯執(zhí)行的原因。
當(dāng)然，能觸發(fā)即時(shí)編譯請求的條件比較多，比如方法調(diào)用，OSR 編譯請求等。在默認(rèn)設(shè)置下，無論是哪種場景，虛擬機(jī)在代碼編譯器還未完成的時(shí)候，都仍然按照解釋器來繼續(xù)執(zhí)行，而編譯動作則是在后臺的編譯線程中運(yùn)行。
用戶可以通過-XX:-BackgroundCompilation參數(shù)來禁止后臺編譯，此時(shí)所有的編譯請求會等待，直到編譯完成后再開始執(zhí)行本地機(jī)器碼。
在 HotSpot 虛擬機(jī)中內(nèi)置了兩款即時(shí)編譯器，分別是Client Compiler和Server Compiler，也稱為 C1 編譯器與 C2 編譯器。
在目前的 HotSpot 虛擬機(jī)中，默認(rèn)采用的是解釋器與其中一個(gè)即時(shí)編譯器直接配合的工作方式，用戶也可以使用-client或者-server參數(shù)來指定解釋器與具體的某個(gè)編譯器配合工作。
它們之間的區(qū)別，可以用如下內(nèi)容簡要概括：
Sever Compiler 即時(shí)編譯器，無疑是比較緩慢的，但它的編譯速度依然遠(yuǎn)超傳統(tǒng)的靜態(tài)優(yōu)化編譯器，而且它相對于 Client Compiler 編譯器輸出的代碼質(zhì)量更高，可以減少本地代碼的執(zhí)行時(shí)間，從而抵消額外的編譯時(shí)間開銷，因此很多非服務(wù)端的虛擬機(jī)選擇-server模式來運(yùn)行。
在上文我們有提到，JIT 編譯器會將熱點(diǎn)代碼編譯成本地平臺相關(guān)的機(jī)器碼。
哪些代碼會被 JIT 編譯器判斷為“熱點(diǎn)代碼”呢？主要有兩類：
這兩種情況都會使即時(shí)編譯器以整個(gè)方法作為編譯對象。
比較難以理解的可能是第二種情況，對于被多次執(zhí)行的循環(huán)體，可以理解成以一個(gè)方法可能只被調(diào)用一次或者少量的幾次，但是方法體內(nèi)部存在循環(huán)次數(shù)較多的循環(huán)體問題，這樣循環(huán)體的代碼也會被重復(fù)執(zhí)行多次，因此這些代碼也被認(rèn)為是“熱點(diǎn)代碼”。
上面提到的都是概念知識，虛擬機(jī)如何判斷一段代碼是否是“熱點(diǎn)代碼”呢？主要有兩種辦法：
HotSpot 虛擬機(jī)中使用的是第二種基于計(jì)數(shù)器的熱點(diǎn)探測方法，它為每個(gè)方法準(zhǔn)備了兩類計(jì)數(shù)器：方法調(diào)用計(jì)數(shù)器和回邊計(jì)數(shù)器。
在確認(rèn)虛擬機(jī)運(yùn)行參數(shù)的前提下，這兩類計(jì)數(shù)器都有一個(gè)確認(rèn)的的閥值，當(dāng)計(jì)數(shù)器超過閥值時(shí)，就會觸發(fā)即時(shí)編譯器。
下面我們一起來看看這兩類計(jì)數(shù)器的實(shí)現(xiàn)。
方法調(diào)用計(jì)數(shù)器，通常用于統(tǒng)計(jì)方法被調(diào)用的次數(shù)。它的默認(rèn)閾值在Client模式下是 1500 次，在Server模式下是 10000 次，這個(gè)閾值可以通過-XX:CompileThreshold參數(shù)來人為設(shè)定。
當(dāng)一個(gè)方法被調(diào)用時(shí)，會檢查方法是否存在被 JIT 編譯過的版本，如果存在，則優(yōu)先使用編譯后的本地機(jī)器碼來執(zhí)行；如果不存在，將此方法的調(diào)用計(jì)數(shù)器值加 1，然后判斷方法調(diào)用計(jì)數(shù)器和回邊計(jì)數(shù)器之和是否超過方法調(diào)用計(jì)數(shù)器的閾值，如果超過，向即時(shí)編譯器提交一個(gè)該方法的代碼編譯請求，在默認(rèn)不設(shè)置的情況下，不會同步等待編譯請求完成，而時(shí)直接以解釋方式執(zhí)行方法。
具體流程，可以用如下圖來概括。
圖片
如果不設(shè)置閥值的情況下，方法調(diào)用計(jì)數(shù)器統(tǒng)計(jì)的并不是方法被調(diào)用的絕對次數(shù)，而是一個(gè)相對的執(zhí)行頻率，即一段時(shí)間之內(nèi)方法被調(diào)用的次數(shù)。
當(dāng)超過一定的時(shí)間限制，如果方法的調(diào)用次數(shù)不足以讓它提交給即時(shí)編譯器編譯，那這個(gè)方法的調(diào)用計(jì)數(shù)器就會少一半，這個(gè)過程稱為方法的調(diào)用計(jì)數(shù)器熱度衰減，而這段時(shí)間就稱為此方法統(tǒng)計(jì)的半衰周期。
進(jìn)行熱度衰減的動作是在虛擬機(jī)進(jìn)行垃圾回收時(shí)順便進(jìn)行的，可以通過-XX:-UseCounterDecay參數(shù)來關(guān)閉熱度衰減，讓方法計(jì)數(shù)器統(tǒng)計(jì)方法調(diào)用的絕對次數(shù)，這樣一來，只要系統(tǒng)運(yùn)行時(shí)間足夠長，基本上絕大部分方法都會被編譯成本地機(jī)器碼。
此外，用戶也可以通過-XX:CounterHalfLifeTime參數(shù)來設(shè)置半衰周期的時(shí)間，單位是秒。
回邊計(jì)數(shù)器，通常用于統(tǒng)計(jì)一個(gè)方法中循環(huán)體代碼執(zhí)行的次數(shù)。在字節(jié)碼方法循環(huán)體中，遇到控制流向后跳轉(zhuǎn)的指令成為"回邊"，這個(gè)過程會產(chǎn)生“棧上替換”的行為，也就是方法棧幀還在棧上，只是方法被替換了，HotSpot 把這個(gè)過程觸發(fā)的即時(shí)編譯，稱之為 OSR 編譯。
關(guān)于回邊計(jì)數(shù)器的閾值設(shè)置，虛擬機(jī)沒有明確給出對應(yīng)的參數(shù)，但是可以通過-XX:OnStackReplacePercentage參數(shù)來間接的調(diào)整回邊計(jì)數(shù)器的閾值，這個(gè)參數(shù)也稱為 ORS 比率，回邊計(jì)數(shù)器的閾值計(jì)算公式如下：
當(dāng)解釋器遇到一條回邊指令時(shí)，會先查找需要執(zhí)行的代碼片段中是否有已經(jīng)編譯的版本，如果有，會優(yōu)先執(zhí)行已編譯好的代碼；如果沒有，就會把回邊計(jì)數(shù)器的值加 1，然后判斷方法調(diào)用計(jì)數(shù)器和回邊計(jì)數(shù)器值之和是否超過回邊計(jì)數(shù)器的閾值，如果超過，就會向即時(shí)編譯器提交一個(gè) OSR 編譯請求，并且把回邊計(jì)數(shù)器的值降低一些，以便繼續(xù)在解釋器中執(zhí)行循環(huán)。
具體流程，可以用如下圖來概括。
圖片
與方法計(jì)數(shù)器不同，回邊計(jì)數(shù)器沒有熱度衰減的過程，因此這個(gè)計(jì)數(shù)器統(tǒng)計(jì)的就是該方法循環(huán)執(zhí)行的絕對次數(shù)，當(dāng)回邊計(jì)數(shù)器溢出的時(shí)候，虛擬機(jī)還會把方法計(jì)數(shù)器的值也調(diào)整成溢出狀態(tài)，這樣下次再進(jìn)入該方法的時(shí)候，就會執(zhí)行標(biāo)準(zhǔn)的編譯過程。
HotSpot 虛擬機(jī)設(shè)計(jì)團(tuán)隊(duì)為了實(shí)現(xiàn)程序更快的執(zhí)行效率，列出了很多的優(yōu)化手段，比如方法內(nèi)聯(lián)、冗余訪問消除、復(fù)寫傳播、無用代碼消除、公共子表達(dá)式消除、數(shù)組邊界檢查消除、逃逸分析等。
下面我們抽取幾個(gè)最常見的優(yōu)化技術(shù)，一起來看看相關(guān)的實(shí)現(xiàn)。
公共子表達(dá)式消除是一個(gè)普遍應(yīng)用于各種編譯器的經(jīng)典優(yōu)化技術(shù)。
如果一個(gè)子表達(dá)式已經(jīng)計(jì)算過了，且表達(dá)式中變量的值不曾發(fā)生變化，那么這個(gè)子表達(dá)式就可以當(dāng)做公共子表達(dá)式。
對于這種表達(dá)式，沒有必要再花時(shí)間去對它進(jìn)行計(jì)算，直接用前面計(jì)算過的表達(dá)式結(jié)果替代就可以了。如果這種優(yōu)化僅限于程序的基本塊內(nèi)，便稱為局部公共子表達(dá)式消除；如果這種優(yōu)化的范圍涵蓋了多個(gè)基本塊，便稱為全局公共子表達(dá)式消除。
舉個(gè)簡單的例子，假設(shè)存在以下代碼。
// 原始代碼int d = (c * b) * 12 + a + (a + b * c);如果這段代碼交給 Javac 編譯器則不會進(jìn)行任何優(yōu)化，但是這段代碼進(jìn)入到虛擬機(jī)即時(shí)編譯器之后，它將會進(jìn)行如下優(yōu)化。
// 將 c*b 和 b*c 用 E 表示，消除公共子表達(dá)式int d = E * 12 + a + (a + E);即時(shí)編譯器還可能進(jìn)行另一種叫做代數(shù)簡化的優(yōu)化，把表達(dá)式變?yōu)椋?span style="display:none">WGl28資訊網(wǎng)——每日最新資訊28at.com
// 代數(shù)簡化int d = E * 13 + a + a;表達(dá)式變換之后，再次計(jì)算可以節(jié)省一些時(shí)間。
數(shù)組邊界檢查消除也是一個(gè)經(jīng)典優(yōu)化技術(shù)。
Java 語言作為一門動態(tài)安全的語言，會自動對數(shù)組的讀寫訪問索引合法性做檢查，當(dāng)超出地址范圍，會拋出java.lang.ArrayIndexOutOfBoundsException異常，這對軟件開發(fā)很友好，但對 JVM 卻是一個(gè)性能負(fù)擔(dān)。
如果能在編譯期根據(jù)數(shù)據(jù)流分析判定索引一直在數(shù)組邊界內(nèi)，就可以消除數(shù)組上下邊界的檢測，從而節(jié)省很多次條件判斷操作。
類似的消除手段還有空指針檢查（NullPointException）、除數(shù)為零檢查（ArithmeticException）、自動裝箱消除（Autobox Elimination）、安全點(diǎn)消除（Safepoint Elimination）、消除反射（Dereflection）等等，針對這些檢查的消除方式，可能會采用隱式異常處理的思路。
舉個(gè)簡單的例子，假設(shè)存在以下代碼。
// 原始偽代碼if(foo != null) { return foo.value;} else { throw new NullPointException();}優(yōu)化后的偽代碼。
// 隱式異常消除后的偽代碼try { return foo.value;} catch (segment_fault) { uncommon_trap();}JVM 會注冊一個(gè) Segment Fault 信號的異常處理器（uncommon_trap() 是一個(gè)針對進(jìn)程層面的異常處理器，與 try-catch 的線程級異常處理器不同），當(dāng) foo 不為空，可以省去判空的開銷；如果 foo 真為空，會轉(zhuǎn)到異常處理器恢復(fù)中斷并拋出NullPointException異常。
借助 JVM 在運(yùn)行期收集的性能監(jiān)控信息，判定 foo 極少為空時(shí)，采用這樣的優(yōu)化方式可以提升程序的執(zhí)行效率。
方法內(nèi)聯(lián)是 JVM 最重要的優(yōu)化手段之一，它可以去除方法調(diào)用的成本（如減少建立棧幀等），為其它優(yōu)化建立了良好的基礎(chǔ)。
虛擬機(jī)如果探測到某個(gè)方法是熱點(diǎn)方法并且長度不太長時(shí)，會進(jìn)行內(nèi)聯(lián)，所謂的內(nèi)聯(lián)就是把方法內(nèi)代碼拷貝、粘貼到調(diào)用者的位置。
舉個(gè)例子！
public final static void method1(){ handleA(); handleB();}public static void main(String[] args) { handle1(); method1(); handle2();}優(yōu)化之后可能變成：
public static void main(String[] args) { handle1(); handleA(); handleB(); handle2();}從效果上看，就是把method1()方法拷貝到main()方法中。未拷貝之前，優(yōu)化空間非常小，但是合并到一個(gè)方法之后，就有了很大的優(yōu)化空間了。
再比如下面這個(gè)例子！
private final static int method1(final int i) { return i * i;}public static void main(String[] args) { System.out.println(method1(10));}優(yōu)化之后可能變成：
public static void main(String[] args) { System.out.println(100);}虛擬機(jī)還能夠進(jìn)行常量折疊（constant folding）的優(yōu)化，減少不必要的代碼執(zhí)行環(huán)節(jié)，從而提升代碼執(zhí)行效率。
再次想到一個(gè)問題，在 Java 編程規(guī)范里面，可能很多新人不能理解為什么推薦盡量將方法聲明為final？
我們知道 Java 是多態(tài)的特性，子類既可以調(diào)用父類方法，也可以重寫父類方法，編程方面靈活性非常高，這樣其實(shí)會導(dǎo)致一個(gè)問題，編譯期間無法確定應(yīng)該使用哪一個(gè)方法，只有在運(yùn)行時(shí)才能確定，這就可能導(dǎo)致虛擬機(jī)很難對方法進(jìn)行內(nèi)聯(lián)操作。
但是如果將方法聲明為final，這些方法是無法被重寫，方法 A 調(diào)用方法 B 基本上是可以完全確定的，可以進(jìn)行方法內(nèi)聯(lián)操作。
逃逸分析，在之前對象內(nèi)存分配的文章中有所簡單的介紹過，我們再次回顧一下相關(guān)的知識。
逃逸分析是一項(xiàng)比較前沿的優(yōu)化技術(shù)，它并不是直接優(yōu)化代碼的手段，而是為其它優(yōu)化手段提供了分析技術(shù)。
逃逸分析的基本行為是分析對象動態(tài)作用域。
當(dāng)一個(gè)對象在方法里面被定義后，它可能被外部方法所引用，例如作為調(diào)用參數(shù)傳遞到其他方法中，這種稱為方法逃逸；甚至還有可能被外部線程訪問到，譬如賦值給可以在其他線程中訪問的實(shí)例變量，這種稱為線程逃逸。
如果能證明一個(gè)對象不會逃移到方法外或者線程之外，換句話說就是別的方法或線程無法通過任何途徑訪問到這個(gè)對象，則可以通過一些途徑為這個(gè)變量進(jìn)行一些不同程度的優(yōu)化。
在之前的對象創(chuàng)建文章中，我們提及過，對象會優(yōu)先在堆上分配，垃圾收集器會定期回收堆空間中不再使用的對象，但這塊的內(nèi)存回收很耗時(shí)。如果確定一個(gè)對象不會逃逸出方法之外，讓這個(gè)對象在棧上分配，對象所占用的內(nèi)存空間就可以隨著棧幀出棧而銷毀，這樣垃圾收集器的壓力將會小很多。
線程同步本身是一個(gè)相對耗時(shí)的過程，如果逃逸分析能夠確定一個(gè)變量不會逃逸出線程，無法被其他線程訪問，那么這個(gè)變量的讀寫肯定就不會有競爭，此時(shí)虛擬機(jī)會對這個(gè)變量，實(shí)施的同步措施進(jìn)行消除。
比如你定義的類的方法上有同步鎖，但在運(yùn)行時(shí)，卻只有一個(gè)線程在訪問，此時(shí)逃逸分析后，虛擬機(jī)會去掉同步鎖來運(yùn)行。
標(biāo)量是指一個(gè)數(shù)據(jù)已經(jīng)無法再分解成更小的數(shù)據(jù)來表示了，比如 Java 虛擬機(jī)中的原始數(shù)據(jù)類型（int，long 等數(shù)值類型以及 reference 類型）等都不能進(jìn)一步分解，它們可以稱為標(biāo)量。相對的，如果一個(gè)數(shù)據(jù)可以繼續(xù)分解，那它稱為聚合量。
Java 中最典型的聚合量是對象，如果逃逸分析證明一個(gè)對象不會被外部訪問，并且這個(gè)對象是可分解的，那程序真正執(zhí)行的時(shí)候?qū)⒖赡懿粍?chuàng)建這個(gè)對象，而改為直接創(chuàng)建它的若干個(gè)被這個(gè)方法使用到的成員變量來代替，拆散后的變量便可以被單獨(dú)分析與優(yōu)化，可以各自分別在棧幀或寄存器上分配空間，原本的對象就無需整體分配空間了。
關(guān)于逃逸分析的論文早在 1999 年就已經(jīng)發(fā)表，但直到 Sun JDK1.6 才實(shí)現(xiàn)了逃逸分析，直到現(xiàn)在這項(xiàng)優(yōu)化尚未足夠成熟，仍有很大改進(jìn)余地。
不成熟的原因主要是不能保證逃逸分析的性能收益必定能高于它的消耗。雖然在實(shí)際測試結(jié)果中，實(shí)施逃逸分析后的程序往往能運(yùn)行出不錯(cuò)的成績，但是在實(shí)際的應(yīng)用程序，尤其是大型程序中反而發(fā)現(xiàn)實(shí)施逃逸分析可能出現(xiàn)效果不穩(wěn)定的情況，或因分析過程耗時(shí)但卻無法有效判別出非逃逸對象而導(dǎo)致性能有所下降。
如果有需要并且確認(rèn)對程序運(yùn)行有益，用戶可以使用-XX:+DoEscapeAnalysis參數(shù)來手動開啟逃逸分析，開啟之后可以通過-XX:+PrintEscapeAnalysis參數(shù)來查看分析結(jié)果，用戶還可以使用-XX:+EliminateAllocations參數(shù)來開啟標(biāo)量替換，使用-XX:+EliminatLocks參數(shù)來開啟同步消除，使用-XX:+PrintEliminateAllocations參數(shù)查看標(biāo)量的替換情況。
本文主要圍繞 JVM 在運(yùn)行期對代碼采取的一些優(yōu)化手段，進(jìn)行了一次知識內(nèi)容整合和總結(jié)，希望能幫助到大家。
內(nèi)容比較多，如果有描述不對的地方，歡迎留言指出，不勝感激。
1.https://www.cnblogs.com/xrq730/p/4857820.html
2.https://juejin.cn/post/7236634386568527928
3.https://blog.csdn.net/ChaoMing_H/article/details/129179684
本文鏈接：http://www.www897cc.com/showinfo-26-76550-0.html淺談JVM運(yùn)行期的幾種優(yōu)化手段
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： Python秘訣：Xmltodict，處理XML數(shù)據(jù)的終極利器
下一篇： 常說的BFC是什么？如何觸發(fā)？
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號