在并發(fā)編程中,我們需要處理兩個關(guān)鍵問題:線程之間如何通信及線程之間如何同步(這里的線程是指并發(fā)執(zhí)行的活動實體)。通信是指線程之間以何種機制來交換信息。在命令式編程中,線程之間的通信機制有兩種:共享內(nèi)存和消息傳遞。
在共享內(nèi)存的并發(fā)模型里,線程之間共享程序的公共狀態(tài),線程之間通過寫 - 讀內(nèi)存中的公共狀態(tài)來隱式進行通信。在消息傳遞的并發(fā)模型里,線程之間沒有公共狀態(tài),線程之間必須通過明確的發(fā)送消息來顯式進行通信。
同步是指程序用于控制不同線程之間操作發(fā)生相對順序的機制。在共享內(nèi)存并發(fā)模型里,同步是顯式進行的。程序員必須顯式指定某個方法或某段代碼需要在線程之間互斥執(zhí)行。在消息傳遞的并發(fā)模型里,由于消息的發(fā)送必須在消息的接收之前,因此同步是隱式進行的。
Java 的并發(fā)采用的是共享內(nèi)存模型,Java 線程之間的通信總是隱式進行,整個通信過程對程序員完全透明。如果編寫多線程程序的 Java 程序員不理解隱式進行的線程之間通信的工作機制,很可能會遇到各種奇怪的內(nèi)存可見性問題。
在 java 中,所有實例域、靜態(tài)域和數(shù)組元素存儲在堆內(nèi)存中,堆內(nèi)存在線程之間共享(本文使用“共享變量”這個術(shù)語代指實例域,靜態(tài)域和數(shù)組元素)。局部變量(Local variables),方法定義參數(shù)(java 語言規(guī)范稱之為 formal method parameters)和異常處理器參數(shù)(exception handler parameters)不會在線程之間共享,它們不會有內(nèi)存可見性問題,也不受內(nèi)存模型的影響。
Java 線程之間的通信由 Java 內(nèi)存模型(本文簡稱為 JMM)控制,JMM 決定一個線程對共享變量的寫入何時對另一個線程可見。從抽象的角度來看,JMM 定義了線程和主內(nèi)存之間的抽象關(guān)系:線程之間的共享變量存儲在主內(nèi)存(main memory)中,每個線程都有一個私有的本地內(nèi)存(local memory),本地內(nèi)存中存儲了該線程以讀 / 寫共享變量的副本。本地內(nèi)存是 JMM 的一個抽象概念,并不真實存在。它涵蓋了緩存,寫緩沖區(qū),寄存器以及其他的硬件和編譯器優(yōu)化。Java 內(nèi)存模型的抽象示意圖如下:
圖片
從上圖來看,線程 A 與線程 B 之間如要通信的話,必須要經(jīng)歷下面 2 個步驟:
下面通過示意圖來說明這兩個步驟:
圖片
如上圖所示,本地內(nèi)存 A 和 B 有主內(nèi)存中共享變量 x 的副本。假設(shè)初始時,這三個內(nèi)存中的 x 值都為 0。線程 A 在執(zhí)行時,把更新后的 x 值(假設(shè)值為 1)臨時存放在自己的本地內(nèi)存 A 中。當(dāng)線程 A 和線程 B 需要通信時,線程 A 首先會把自己本地內(nèi)存中修改后的 x 值刷新到主內(nèi)存中,此時主內(nèi)存中的 x 值變?yōu)榱?1。隨后,線程 B 到主內(nèi)存中去讀取線程 A 更新后的 x 值,此時線程 B 的本地內(nèi)存的 x 值也變?yōu)榱?1。
從整體來看,這兩個步驟實質(zhì)上是線程 A 在向線程 B 發(fā)送消息,而且這個通信過程必須要經(jīng)過主內(nèi)存。JMM 通過控制主內(nèi)存與每個線程的本地內(nèi)存之間的交互,來為 java 程序員提供內(nèi)存可見性保證。
在執(zhí)行程序時為了提高性能,編譯器和處理器常常會對指令做重排序。重排序分三種類型:
從 java 源代碼到最終實際執(zhí)行的指令序列,會分別經(jīng)歷下面三種重排序:
圖片
上述的 1 屬于編譯器重排序,2 和 3 屬于處理器重排序。這些重排序都可能會導(dǎo)致多線程程序出現(xiàn)內(nèi)存可見性問題。對于編譯器,JMM 的編譯器重排序規(guī)則會禁止特定類型的編譯器重排序(不是所有的編譯器重排序都要禁止)。對于處理器重排序,JMM 的處理器重排序規(guī)則會要求 java 編譯器在生成指令序列時,插入特定類型的內(nèi)存屏障(memory barriers,intel 稱之為 memory fence)指令,通過內(nèi)存屏障指令來禁止特定類型的處理器重排序(不是所有的處理器重排序都要禁止)。
JMM 屬于語言級的內(nèi)存模型,它確保在不同的編譯器和不同的處理器平臺之上,通過禁止特定類型的編譯器重排序和處理器重排序,為程序員提供一致的內(nèi)存可見性保證。
現(xiàn)代的處理器使用寫緩沖區(qū)來臨時保存向內(nèi)存寫入的數(shù)據(jù)。寫緩沖區(qū)可以保證指令流水線持續(xù)運行,它可以避免由于處理器停頓下來等待向內(nèi)存寫入數(shù)據(jù)而產(chǎn)生的延遲。同時,通過以批處理的方式刷新寫緩沖區(qū),以及合并寫緩沖區(qū)中對同一內(nèi)存地址的多次寫,可以減少對內(nèi)存總線的占用。雖然寫緩沖區(qū)有這么多好處,但每個處理器上的寫緩沖區(qū),僅僅對它所在的處理器可見。這個特性會對內(nèi)存操作的執(zhí)行順序產(chǎn)生重要的影響:處理器對內(nèi)存的讀 / 寫操作的執(zhí)行順序,不一定與內(nèi)存實際發(fā)生的讀 / 寫操作順序一致!為了具體說明,請看下面示例:
// Processor Aa = 1; //A1 x = b; //A2// Processor Bb = 2; //B1 y = a; //B2// 初始狀態(tài):a = b = 0;處理器允許執(zhí)行后得到結(jié)果:x = y = 0
假設(shè)處理器 A 和處理器 B 按程序的順序并行執(zhí)行內(nèi)存訪問,最終卻可能得到 x = y = 0 的結(jié)果。具體的原因如下圖所示:
圖片
這里處理器 A 和處理器 B 可以同時把共享變量寫入自己的寫緩沖區(qū)(A1,B1),然后從內(nèi)存中讀取另一個共享變量(A2,B2),最后才把自己寫緩存區(qū)中保存的臟數(shù)據(jù)刷新到內(nèi)存中(A3,B3)。當(dāng)以這種時序執(zhí)行時,程序就可以得到 x = y = 0 的結(jié)果。
從內(nèi)存操作實際發(fā)生的順序來看,直到處理器 A 執(zhí)行 A3 來刷新自己的寫緩存區(qū),寫操作 A1 才算真正執(zhí)行了。雖然處理器 A 執(zhí)行內(nèi)存操作的順序為:A1->A2,但內(nèi)存操作實際發(fā)生的順序卻是:A2->A1。此時,處理器 A 的內(nèi)存操作順序被重排序了(處理器 B 的情況和處理器 A 一樣,這里就不贅述了)。
這里的關(guān)鍵是,由于寫緩沖區(qū)僅對自己的處理器可見,它會導(dǎo)致處理器執(zhí)行內(nèi)存操作的順序可能會與內(nèi)存實際的操作執(zhí)行順序不一致。由于現(xiàn)代的處理器都會使用寫緩沖區(qū),因此現(xiàn)代的處理器都會允許對寫 - 讀操做重排序。
下面是常見處理器允許的重排序類型的列表:
Load-Load | Load-Store | Store-Store | Store-Load | 數(shù)據(jù)依賴 | |
sparc-TSO | N | N | N | Y | N |
x86 | N | N | N | Y | N |
ia64 | Y | Y | Y | Y | N |
PowerPC | Y | Y | Y | Y | N |
上表單元格中的“N”表示處理器不允許兩個操作重排序,“Y”表示允許重排序。
從上表我們可以看出:常見的處理器都允許 Store-Load 重排序;常見的處理器都不允許對存在數(shù)據(jù)依賴的操作做重排序。sparc-TSO 和 x86 擁有相對較強的處理器內(nèi)存模型,它們僅允許對寫 - 讀操作做重排序(因為它們都使用了寫緩沖區(qū))。
為了保證內(nèi)存可見性,java 編譯器在生成指令序列的適當(dāng)位置會插入內(nèi)存屏障指令來禁止特定類型的處理器重排序。JMM 把內(nèi)存屏障指令分為下列四類:
屏障類型 | 指令示例 | 說明 |
LoadLoad Barriers | Load1; LoadLoad; Load2 | 確保 Load1 數(shù)據(jù)的裝載,之前于 Load2 及所有后續(xù)裝載指令的裝載。 |
StoreStore Barriers | Store1; StoreStore; Store2 | 確保 Store1 數(shù)據(jù)對其他處理器可見(刷新到內(nèi)存),之前于 Store2 及所有后續(xù)存儲指令的存儲。 |
LoadStore Barriers | Load1; LoadStore; Store2 | 確保 Load1 數(shù)據(jù)裝載,之前于 Store2 及所有后續(xù)的存儲指令刷新到內(nèi)存。 |
StoreLoad Barriers | Store1; StoreLoad; Load2 | 確保 Store1 數(shù)據(jù)對其他處理器變得可見(指刷新到內(nèi)存),之前于 Load2 及所有后續(xù)裝載指令的裝載。 |
StoreLoad Barriers 會使該屏障之前的所有內(nèi)存訪問指令(存儲和裝載指令)完成之后,才執(zhí)行該屏障之后的內(nèi)存訪問指令。
StoreLoad Barriers 是一個“全能型”的屏障,它同時具有其他三個屏障的效果。現(xiàn)代的多處理器大都支持該屏障(其他類型的屏障不一定被所有處理器支持)。執(zhí)行該屏障開銷會很昂貴,因為當(dāng)前處理器通常要把寫緩沖區(qū)中的數(shù)據(jù)全部刷新到內(nèi)存中(buffer fully flush)。
從 JDK5 開始,java 使用新的 JSR -133 內(nèi)存模型(本文除非特別說明,針對的都是 JSR- 133 內(nèi)存模型)。JSR-133 提出了 happens-before 的概念,通過這個概念來闡述操作之間的內(nèi)存可見性。如果一個操作執(zhí)行的結(jié)果需要對另一個操作可見,那么這兩個操作之間必須存在 happens-before 關(guān)系。這里提到的兩個操作既可以是在一個線程之內(nèi),也可以是在不同線程之間。與程序員密切相關(guān)的 happens-before 規(guī)則如下:
注意,兩個操作之間具有 happens-before 關(guān)系,并不意味著前一個操作必須要在后一個操作之前執(zhí)行!happens-before 僅僅要求前一個操作(執(zhí)行的結(jié)果)對后一個操作可見,且前一個操作按順序排在第二個操作之前(the first is visible to and ordered before the second)。happens- before 的定義很微妙,后文會具體說明 happens-before 為什么要這么定義。
happens-before 與 JMM 的關(guān)系如下圖所示:
圖片
image.png
如上圖所示,一個 happens-before 規(guī)則通常對應(yīng)于多個編譯器重排序規(guī)則和處理器重排序規(guī)則。對于 java 程序員來說,happens-before 規(guī)則簡單易懂,它避免程序員為了理解 JMM 提供的內(nèi)存可見性保證而去學(xué)習(xí)復(fù)雜的重排序規(guī)則以及這些規(guī)則的具體實現(xiàn)。
如果兩個操作訪問同一個變量,且這兩個操作中有一個為寫操作,此時這兩個操作之間就存在數(shù)據(jù)依賴性。數(shù)據(jù)依賴分下列三種類型:
名稱 | 代碼示例 | 說明 |
寫后讀 | a = 1;b = a; | 寫一個變量之后,再讀這個位置。 |
寫后寫 | a = 1;a = 2; | 寫一個變量之后,再寫這個變量。 |
讀后寫 | a = b;b = 1; | 讀一個變量之后,再寫這個變量。 |
上面三種情況,只要重排序兩個操作的執(zhí)行順序,程序的執(zhí)行結(jié)果將會被改變。
前面提到過,編譯器和處理器可能會對操作做重排序。編譯器和處理器在重排序時,會遵守數(shù)據(jù)依賴性,編譯器和處理器不會改變存在數(shù)據(jù)依賴關(guān)系的兩個操作的執(zhí)行順序。
注意,這里所說的數(shù)據(jù)依賴性僅針對單個處理器中執(zhí)行的指令序列和單個線程中執(zhí)行的操作,不同處理器之間和不同線程之間的數(shù)據(jù)依賴性不被編譯器和處理器考慮。
as-if-serial 語義的意思指:不管怎么重排序(編譯器和處理器為了提高并行度),(單線程)程序的執(zhí)行結(jié)果不能被改變。編譯器,runtime 和處理器都必須遵守 as-if-serial 語義。
為了遵守 as-if-serial 語義,編譯器和處理器不會對存在數(shù)據(jù)依賴關(guān)系的操作做重排序,因為這種重排序會改變執(zhí)行結(jié)果。但是,如果操作之間不存在數(shù)據(jù)依賴關(guān)系,這些操作可能被編譯器和處理器重排序。為了具體說明,請看下面計算圓面積的代碼示例:
double pi = 3.14; //Adouble r = 1.0; //Bdouble area = pi * r * r; //C
上面三個操作的數(shù)據(jù)依賴關(guān)系如下圖所示:
圖片
如上圖所示,A 和 C 之間存在數(shù)據(jù)依賴關(guān)系,同時 B 和 C 之間也存在數(shù)據(jù)依賴關(guān)系。因此在最終執(zhí)行的指令序列中,C 不能被重排序到 A 和 B 的前面(C 排到 A 和 B 的前面,程序的結(jié)果將會被改變)。但 A 和 B 之間沒有數(shù)據(jù)依賴關(guān)系,編譯器和處理器可以重排序 A 和 B 之間的執(zhí)行順序。下圖是該程序的兩種執(zhí)行順序:
圖片
as-if-serial 語義把單線程程序保護了起來,遵守 as-if-serial 語義的編譯器,runtime 和處理器共同為編寫單線程程序的程序員創(chuàng)建了一個幻覺:單線程程序是按程序的順序來執(zhí)行的。as-if-serial 語義使單線程程序員無需擔(dān)心重排序會干擾他們,也無需擔(dān)心內(nèi)存可見性問題。
根據(jù) happens- before 的程序順序規(guī)則,上面計算圓的面積的示例代碼存在三個 happens- before 關(guān)系:
這里的第 3 個 happens- before 關(guān)系,是根據(jù) happens- before 的傳遞性推導(dǎo)出來的。
這里 A happens- before B,但實際執(zhí)行時 B 卻可以排在 A 之前執(zhí)行(看上面的重排序后的執(zhí)行順序)。在第一章提到過,如果 A happens- before B,JMM 并不要求 A 一定要在 B 之前執(zhí)行。JMM 僅僅要求前一個操作(執(zhí)行的結(jié)果)對后一個操作可見,且前一個操作按順序排在第二個操作之前。這里操作 A 的執(zhí)行結(jié)果不需要對操作 B 可見;而且重排序操作 A 和操作 B 后的執(zhí)行結(jié)果,與操作 A 和操作 B 按 happens- before 順序執(zhí)行的結(jié)果一致。在這種情況下,JMM 會認(rèn)為這種重排序并不非法(not illegal),JMM 允許這種重排序。
在計算機中,軟件技術(shù)和硬件技術(shù)有一個共同的目標(biāo):在不改變程序執(zhí)行結(jié)果的前提下,盡可能的開發(fā)并行度。編譯器和處理器遵從這一目標(biāo),從 happens- before 的定義我們可以看出,JMM 同樣遵從這一目標(biāo)。
現(xiàn)在讓我們來看看,重排序是否會改變多線程程序的執(zhí)行結(jié)果。請看下面的示例代碼:
class ReorderExample { int a = 0; boolean flag = false; public void writer() { a = 1; //1 flag = true; //2 } Public void reader() { if (flag) { //3 int i = a * a; //4 …… } }}
flag 變量是個標(biāo)記,用來標(biāo)識變量 a 是否已被寫入。這里假設(shè)有兩個線程 A 和 B,A 首先執(zhí)行 writer() 方法,隨后 B 線程接著執(zhí)行 reader() 方法。線程 B 在執(zhí)行操作 4 時,能否看到線程 A 在操作 1 對共享變量 a 的寫入?
答案是:不一定能看到。
由于操作 1 和操作 2 沒有數(shù)據(jù)依賴關(guān)系,編譯器和處理器可以對這兩個操作重排序;同樣,操作 3 和操作 4 沒有數(shù)據(jù)依賴關(guān)系,編譯器和處理器也可以對這兩個操作重排序。讓我們先來看看,當(dāng)操作 1 和操作 2 重排序時,可能會產(chǎn)生什么效果? 請看下面的程序執(zhí)行時序圖:
圖片
如上圖所示,操作 1 和操作 2 做了重排序。程序執(zhí)行時,線程 A 首先寫標(biāo)記變量 flag,隨后線程 B 讀這個變量。由于條件判斷為真,線程 B 將讀取變量 a。此時,變量 a 還根本沒有被線程 A 寫入,在這里多線程程序的語義被重排序破壞了!
※注:本文統(tǒng)一用紅色的虛箭線表示錯誤的讀操作,用綠色的虛箭線表示正確的讀操作。
下面再讓我們看看,當(dāng)操作 3 和操作 4 重排序時會產(chǎn)生什么效果(借助這個重排序,可以順便說明控制依賴性)。下面是操作 3 和操作 4 重排序后,程序的執(zhí)行時序圖:
圖片
image.png
在程序中,操作 3 和操作 4 存在控制依賴關(guān)系。當(dāng)代碼中存在控制依賴性時,會影響指令序列執(zhí)行的并行度。為此,編譯器和處理器會采用猜測(Speculation)執(zhí)行來克服控制相關(guān)性對并行度的影響。以處理器的猜測執(zhí)行為例,執(zhí)行線程 B 的處理器可以提前讀取并計算 a*a,然后把計算結(jié)果臨時保存到一個名為重排序緩沖(reorder buffer ROB)的硬件緩存中。當(dāng)接下來操作 3 的條件判斷為真時,就把該計算結(jié)果寫入變量 i 中。
從圖中我們可以看出,猜測執(zhí)行實質(zhì)上對操作 3 和 4 做了重排序。重排序在這里破壞了多線程程序的語義!
在單線程程序中,對存在控制依賴的操作重排序,不會改變執(zhí)行結(jié)果(這也是 as-if-serial 語義允許對存在控制依賴的操作做重排序的原因);但在多線程程序中,對存在控制依賴的操作重排序,可能會改變程序的執(zhí)行結(jié)果。
當(dāng)程序未正確同步時,就會存在數(shù)據(jù)競爭。java 內(nèi)存模型規(guī)范對數(shù)據(jù)競爭的定義如下:
當(dāng)代碼中包含數(shù)據(jù)競爭時,程序的執(zhí)行往往產(chǎn)生違反直覺的結(jié)果(前一章的示例正是如此)。如果一個多線程程序能正確同步,這個程序?qū)⑹且粋€沒有數(shù)據(jù)競爭的程序。
JMM 對正確同步的多線程程序的內(nèi)存一致性做了如下保證:
順序一致性內(nèi)存模型是一個被計算機科學(xué)家理想化了的理論參考模型,它為程序員提供了極強的內(nèi)存可見性保證。順序一致性內(nèi)存模型有兩大特性:
圖片
在概念上,順序一致性模型有一個單一的全局內(nèi)存,這個內(nèi)存通過一個左右擺動的開關(guān)可以連接到任意一個線程。同時,每一個線程必須按程序的順序來執(zhí)行內(nèi)存讀 / 寫操作。從上圖我們可以看出,在任意時間點最多只能有一個線程可以連接到內(nèi)存。當(dāng)多個線程并發(fā)執(zhí)行時,圖中的開關(guān)裝置能把所有線程的所有內(nèi)存讀 / 寫操作串行化。
為了更好的理解,下面我們通過兩個示意圖來對順序一致性模型的特性做進一步的說明。
假設(shè)有兩個線程 A 和 B 并發(fā)執(zhí)行。其中 A 線程有三個操作,它們在程序中的順序是:A1->A2->A3。B 線程也有三個操作,它們在程序中的順序是:B1->B2->B3。
假設(shè)這兩個線程使用監(jiān)視器來正確同步:A 線程的三個操作執(zhí)行后釋放監(jiān)視器,隨后 B 線程獲取同一個監(jiān)視器。那么程序在順序一致性模型中的執(zhí)行效果將如下圖所示:
圖片
現(xiàn)在我們再假設(shè)這兩個線程沒有做同步,下面是這個未同步程序在順序一致性模型中的執(zhí)行示意圖:
圖片
未同步程序在順序一致性模型中雖然整體執(zhí)行順序是無序的,但所有線程都只能看到一個一致的整體執(zhí)行順序。以上圖為例,線程 A 和 B 看到的執(zhí)行順序都是:B1->A1->A2->B2->A3->B3。之所以能得到這個保證是因為順序一致性內(nèi)存模型中的每個操作必須立即對任意線程可見。
但是,在 JMM 中就沒有這個保證。未同步程序在 JMM 中不但整體的執(zhí)行順序是無序的,而且所有線程看到的操作執(zhí)行順序也可能不一致。比如,在當(dāng)前線程把寫過的數(shù)據(jù)緩存在本地內(nèi)存中,且還沒有刷新到主內(nèi)存之前,這個寫操作僅對當(dāng)前線程可見;從其他線程的角度來觀察,會認(rèn)為這個寫操作根本還沒有被當(dāng)前線程執(zhí)行。只有當(dāng)前線程把本地內(nèi)存中寫過的數(shù)據(jù)刷新到主內(nèi)存之后,這個寫操作才能對其他線程可見。在這種情況下,當(dāng)前線程和其它線程看到的操作執(zhí)行順序?qū)⒉灰恢隆?span style="display:none">w6v28資訊網(wǎng)——每日最新資訊28at.com
下面我們對前面的示例程序 ReorderExample 用監(jiān)視器來同步,看看正確同步的程序如何具有順序一致性。
請看下面的示例代碼:
class SynchronizedExample { int a = 0; boolean flag = false; public synchronized void writer() { a = 1; flag = true; } public synchronized void reader() { if (flag) { int i = a; …… } }}
上面示例代碼中,假設(shè) A 線程執(zhí)行 writer() 方法后,B 線程執(zhí)行 reader() 方法。這是一個正確同步的多線程程序。根據(jù) JMM 規(guī)范,該程序的執(zhí)行結(jié)果將與該程序在順序一致性模型中的執(zhí)行結(jié)果相同。下面是該程序在兩個內(nèi)存模型中的執(zhí)行時序?qū)Ρ葓D:
圖片
在順序一致性模型中,所有操作完全按程序的順序串行執(zhí)行。而在 JMM 中,臨界區(qū)內(nèi)的代碼可以重排序(但 JMM 不允許臨界區(qū)內(nèi)的代碼“逸出”到臨界區(qū)之外,那樣會破壞監(jiān)視器的語義)。JMM 會在退出監(jiān)視器和進入監(jiān)視器這兩個關(guān)鍵時間點做一些特別處理,使得線程在這兩個時間點具有與順序一致性模型相同的內(nèi)存視圖(具體細節(jié)后文會說明)。雖然線程 A 在臨界區(qū)內(nèi)做了重排序,但由于監(jiān)視器的互斥執(zhí)行的特性,這里的線程 B 根本無法“觀察”到線程 A 在臨界區(qū)內(nèi)的重排序。這種重排序既提高了執(zhí)行效率,又沒有改變程序的執(zhí)行結(jié)果。
從這里我們可以看到 JMM 在具體實現(xiàn)上的基本方針:在不改變(正確同步的)程序執(zhí)行結(jié)果的前提下,盡可能的為編譯器和處理器的優(yōu)化打開方便之門。
對于未同步或未正確同步的多線程程序,JMM 只提供最小安全性:線程執(zhí)行時讀取到的值,要么是之前某個線程寫入的值,要么是默認(rèn)值(0,null,false),JMM 保證線程讀操作讀取到的值不會無中生有(out of thin air)的冒出來。為了實現(xiàn)最小安全性,JVM 在堆上分配對象時,首先會清零內(nèi)存空間,然后才會在上面分配對象(JVM 內(nèi)部會同步這兩個操作)。因此,在以清零的內(nèi)存空間(pre-zeroed memory)分配對象時,域的默認(rèn)初始化已經(jīng)完成了。
JMM 不保證未同步程序的執(zhí)行結(jié)果與該程序在順序一致性模型中的執(zhí)行結(jié)果一致。因為未同步程序在順序一致性模型中執(zhí)行時,整體上是無序的,其執(zhí)行結(jié)果無法預(yù)知。保證未同步程序在兩個模型中的執(zhí)行結(jié)果一致毫無意義。
和順序一致性模型一樣,未同步程序在 JMM 中的執(zhí)行時,整體上也是無序的,其執(zhí)行結(jié)果也無法預(yù)知。同時,未同步程序在這兩個模型中的執(zhí)行特性有下面幾個差異:
第 3 個差異與處理器總線的工作機制密切相關(guān)。在計算機中,數(shù)據(jù)通過總線在處理器和內(nèi)存之間傳遞。每次處理器和內(nèi)存之間的數(shù)據(jù)傳遞都是通過一系列步驟來完成的,這一系列步驟稱之為總線事務(wù)(bus transaction)。總線事務(wù)包括讀事務(wù)(read transaction)和寫事務(wù)(write transaction)。讀事務(wù)從內(nèi)存?zhèn)魉蛿?shù)據(jù)到處理器,寫事務(wù)從處理器傳送數(shù)據(jù)到內(nèi)存,每個事務(wù)會讀 / 寫內(nèi)存中一個或多個物理上連續(xù)的字。這里的關(guān)鍵是,總線會同步試圖并發(fā)使用總線的事務(wù)。在一個處理器執(zhí)行總線事務(wù)期間,總線會禁止其它所有的處理器和 I/O 設(shè)備執(zhí)行內(nèi)存的讀 / 寫。下面讓我們通過一個示意圖來說明總線的工作機制:
圖片
如上圖所示,假設(shè)處理器 A,B 和 C 同時向總線發(fā)起總線事務(wù),這時總線仲裁(bus arbitration)會對競爭作出裁決,這里我們假設(shè)總線在仲裁后判定處理器 A 在競爭中獲勝(總線仲裁會確保所有處理器都能公平的訪問內(nèi)存)。此時處理器 A 繼續(xù)它的總線事務(wù),而其它兩個處理器則要等待處理器 A 的總線事務(wù)完成后才能開始再次執(zhí)行內(nèi)存訪問。假設(shè)在處理器 A 執(zhí)行總線事務(wù)期間(不管這個總線事務(wù)是讀事務(wù)還是寫事務(wù)),處理器 D 向總線發(fā)起了總線事務(wù),此時處理器 D 的這個請求會被總線禁止。
總線的這些工作機制可以把所有處理器對內(nèi)存的訪問以串行化的方式來執(zhí)行;在任意時間點,最多只能有一個處理器能訪問內(nèi)存。這個特性確保了單個總線事務(wù)之中的內(nèi)存讀 / 寫操作具有原子性。
在一些 32 位的處理器上,如果要求對 64 位數(shù)據(jù)的讀 / 寫操作具有原子性,會有比較大的開銷。為了照顧這種處理器,java 語言規(guī)范鼓勵但不強求 JVM 對 64 位的 long 型變量和 double 型變量的讀 / 寫具有原子性。當(dāng) JVM 在這種處理器上運行時,會把一個 64 位 long/ double 型變量的讀 / 寫操作拆分為兩個 32 位的讀 / 寫操作來執(zhí)行。這兩個 32 位的讀 / 寫操作可能會被分配到不同的總線事務(wù)中執(zhí)行,此時對這個 64 位變量的讀 / 寫將不具有原子性。
當(dāng)單個內(nèi)存操作不具有原子性,將可能會產(chǎn)生意想不到后果。請看下面示意圖:
圖片
如上圖所示,假設(shè)處理器 A 寫一個 long 型變量,同時處理器 B 要讀這個 long 型變量。處理器 A 中 64 位的寫操作被拆分為兩個 32 位的寫操作,且這兩個 32 位的寫操作被分配到不同的寫事務(wù)中執(zhí)行。同時處理器 B 中 64 位的讀操作被拆分為兩個 32 位的讀操作,且這兩個 32 位的讀操作被分配到同一個的讀事務(wù)中執(zhí)行。當(dāng)處理器 A 和 B 按上圖的時序來執(zhí)行時,處理器 B 將看到僅僅被處理器 A“寫了一半“的無效值。
順序一致性內(nèi)存模型是一個理論參考模型,JMM 和處理器內(nèi)存模型在設(shè)計時通常會把順序一致性內(nèi)存模型作為參照。JMM 和處理器內(nèi)存模型在設(shè)計時會對順序一致性模型做一些放松,因為如果完全按照順序一致性模型來實現(xiàn)處理器和 JMM,那么很多的處理器和編譯器優(yōu)化都要被禁止,這對執(zhí)行性能將會有很大的影響。
根據(jù)對不同類型讀 / 寫操作組合的執(zhí)行順序的放松,可以把常見處理器的內(nèi)存模型劃分為下面幾種類型:
注意,這里處理器對讀 / 寫操作的放松,是以兩個操作之間不存在數(shù)據(jù)依賴性為前提的(因為處理器要遵守 as-if-serial 語義,處理器不會對存在數(shù)據(jù)依賴性的兩個內(nèi)存操作做重排序)。
下面的表格展示了常見處理器內(nèi)存模型的細節(jié)特征:
內(nèi)存模型名稱 | 對應(yīng)的處理器 | Store-Load 重排序 | Store-Store 重排序 | Load-Load 和 Load-Store 重排序 | 可以更早讀取到其它處理器的寫 | 可以更早讀取到當(dāng)前處理器的寫 |
TSO | sparc-TSO X64 | Y | Y | |||
PSO | sparc-PSO | Y | Y | Y | ||
RMO | ia64 | Y | Y | Y | Y | |
PowerPC | PowerPC | Y | Y | Y | Y | Y |
在這個表格中,我們可以看到所有處理器內(nèi)存模型都允許寫 - 讀重排序,原因在第一章以說明過:它們都使用了寫緩存區(qū),寫緩存區(qū)可能導(dǎo)致寫 - 讀操作重排序。同時,我們可以看到這些處理器內(nèi)存模型都允許更早讀到當(dāng)前處理器的寫,原因同樣是因為寫緩存區(qū):由于寫緩存區(qū)僅對當(dāng)前處理器可見,這個特性導(dǎo)致當(dāng)前處理器可以比其他處理器先看到臨時保存在自己的寫緩存區(qū)中的寫。
上面表格中的各種處理器內(nèi)存模型,從上到下,模型由強變?nèi)酢T绞亲非笮阅艿奶幚砥鳎瑑?nèi)存模型設(shè)計的會越弱。因為這些處理器希望內(nèi)存模型對它們的束縛越少越好,這樣它們就可以做盡可能多的優(yōu)化來提高性能。
由于常見的處理器內(nèi)存模型比 JMM 要弱,java 編譯器在生成字節(jié)碼時,會在執(zhí)行指令序列的適當(dāng)位置插入內(nèi)存屏障來限制處理器的重排序。同時,由于各種處理器內(nèi)存模型的強弱并不相同,為了在不同的處理器平臺向程序員展示一個一致的內(nèi)存模型,JMM 在不同的處理器中需要插入的內(nèi)存屏障的數(shù)量和種類也不相同。下圖展示了 JMM 在不同處理器內(nèi)存模型中需要插入的內(nèi)存屏障的示意圖:
圖片
如上圖所示,JMM 屏蔽了不同處理器內(nèi)存模型的差異,它在不同的處理器平臺之上為 java 程序員呈現(xiàn)了一個一致的內(nèi)存模型。
JMM 是一個語言級的內(nèi)存模型,處理器內(nèi)存模型是硬件級的內(nèi)存模型,順序一致性內(nèi)存模型是一個理論參考模型。下面是語言內(nèi)存模型,處理器內(nèi)存模型和順序一致性內(nèi)存模型的強弱對比示意圖:
圖片
從上圖我們可以看出:常見的 4 種處理器內(nèi)存模型比常用的 3 中語言內(nèi)存模型要弱,處理器內(nèi)存模型和語言內(nèi)存模型都比順序一致性內(nèi)存模型要弱。同處理器內(nèi)存模型一樣,越是追求執(zhí)行性能的語言,內(nèi)存模型設(shè)計的會越弱。
從 JMM 設(shè)計者的角度來說,在設(shè)計 JMM 時,需要考慮兩個關(guān)鍵因素:
由于這兩個因素互相矛盾,所以 JSR-133 專家組在設(shè)計 JMM 時的核心目標(biāo)就是找到一個好的平衡點:一方面要為程序員提供足夠強的內(nèi)存可見性保證;另一方面,對編譯器和處理器的限制要盡可能的放松。下面讓我們看看 JSR-133 是如何實現(xiàn)這一目標(biāo)的。
為了具體說明,請看前面提到過的計算圓面積的示例代碼:
double pi = 3.14; //Adouble r = 1.0; //Bdouble area = pi * r * r; //C
上面計算圓的面積的示例代碼存在三個 happens- before 關(guān)系:
由于 A happens- before B,happens- before 的定義會要求:A 操作執(zhí)行的結(jié)果要對 B 可見,且 A 操作的執(zhí)行順序排在 B 操作之前。但是從程序語義的角度來說,對 A 和 B 做重排序即不會改變程序的執(zhí)行結(jié)果,也還能提高程序的執(zhí)行性能(允許這種重排序減少了對編譯器和處理器優(yōu)化的束縛)。也就是說,上面這 3 個 happens- before 關(guān)系中,雖然 2 和 3 是必需要的,但 1 是不必要的。因此,JMM 把 happens- before 要求禁止的重排序分為了下面兩類:
JMM 對這兩種不同性質(zhì)的重排序,采取了不同的策略:
下面是 JMM 的設(shè)計示意圖:
圖片
從上圖可以看出兩點:
Java 程序的內(nèi)存可見性保證按程序類型可以分為下列三類:
下圖展示了這三類程序在 JMM 中與在順序一致性內(nèi)存模型中的執(zhí)行結(jié)果的異同:
圖片
只要多線程程序是正確同步的,JMM 保證該程序在任意的處理器平臺上的執(zhí)行結(jié)果,與該程序在順序一致性內(nèi)存模型中的執(zhí)行結(jié)果一致。
JSR-133 對 JDK5 之前的舊內(nèi)存模型的修補主要有兩個:
本文鏈接:http://www.www897cc.com/showinfo-26-59660-0.html一文搞懂什么是JMM重排序、內(nèi)存屏障、順序一致性
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com