99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

多種內(nèi)存一致性模型的特性分析

454398 ? 來源:蝸窩科技 ? 作者:passerby ? 2020-09-21 13:57 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

早期的CPU是通過提高主頻來提升CPU的性能,但是隨著頻率“紅利”越來越困難的情況下,廠商開始用多核來提高CPU的計算能力。多核是指一個CPU里有多個核心,在同一時間一個CPU能夠同時運行多個線程,通過這樣提高CPU的并發(fā)能力。

內(nèi)存一致性模型(memory consistency model)就是用來描述多線程對共享存儲器的訪問行為,在不同的內(nèi)存一致性模型里,多線程對共享存儲器的訪問行為有非常大的差別。這些差別會嚴(yán)重影響程序的執(zhí)行邏輯,甚至?xí)斐绍浖壿媶栴}。在后面的介紹中,我們將分析不同的一致性模型里,多線程的內(nèi)存訪問亂序問題。
目前有多種內(nèi)存一致性模型:
順序存儲模型(sequential consistency model)
完全存儲定序(total store order)
部分存儲定序(part store order)
寬松存儲模型(relax memory order)

在后面我們會分析這幾個一致性模型的特性

在分析之前,我們先定義一個基本的內(nèi)存模型,以這個內(nèi)存模型為基礎(chǔ)進(jìn)行分析


上圖是現(xiàn)代CPU的基本內(nèi)存模型,CPU內(nèi)部有多級緩存來提高CPU的load/store訪問速度(因為對于CPU而言,主存的訪問速度太慢了,上百個時鐘周期的內(nèi)存訪問延遲會極大的降低CPU的使用效率,所以CPU內(nèi)部往往使用多級緩存來提升內(nèi)存訪問效率。)

C1與C2是CPU的2個核心,這兩個核心有私有緩存L1,以及共享緩存L2。最后一級存儲器才是主存。后面的順序一致性模型(SC)中,我們會以這個為基礎(chǔ)進(jìn)行描述(在完全存儲定序、部分存儲定序和寬松內(nèi)存模型里會有所區(qū)別,后面會描述相關(guān)的部分)

為了簡化描述的復(fù)雜性,在下面的內(nèi)存一致性模型描述里,會先將緩存一致性(cache coherence)簡單化,認(rèn)為緩存一致性是完美的(假設(shè)多核cache間的數(shù)據(jù)同步與單核cache一樣,沒有cache引起的數(shù)據(jù)一致性問題),以減少描述的復(fù)雜性。


順序存儲模型是最簡單的存儲模型,也稱為強(qiáng)定序模型。CPU會按照代碼來執(zhí)行所有的load與store動作,即按照它們在程序的順序流中出現(xiàn)的次序來執(zhí)行。從主存儲器和CPU的角度來看,load和store是順序地對主存儲器進(jìn)行訪問。

下面分析這段代碼的執(zhí)行結(jié)果


在順序存儲器模型里,MP(多核)會嚴(yán)格嚴(yán)格按照代碼指令流來執(zhí)行代碼
所以上面代碼在主存里的訪問順序是:

S1 S2 L1 L2

通過上面的訪問順序我們可以看出來,雖然C1與C2的指令雖然在不同的CORE上運行,但是C1發(fā)出來的訪問指令是順序的,同時C2的指令也是順序的。雖然這兩個線程跑在不同的CPU上,但是在順序存儲模型上,其訪問行為與UP(單核)上是一致的。
我們最終看到r2的數(shù)據(jù)會是NEW,與期望的執(zhí)行情況是一致的,所以在順序存儲模型上是不會出現(xiàn)內(nèi)存訪問亂序的情況

3完全存儲定序

為了提高CPU的性能,芯片設(shè)計人員在CPU中包含了一個存儲緩存區(qū)(store buffer),它的作用是為store指令提供緩沖,使得CPU不用等待存儲器的響應(yīng)。所以對于寫而言,只要store buffer里還有空間,寫就只需要1個時鐘周期(哪怕是ARM-A76的L1 cache,訪問一次也需要3個cycles,所以store buffer的存在可以很好的減少寫開銷),但這也引入了一個訪問亂序的問題。

首先我們需要對上面的基礎(chǔ)內(nèi)存模型做一些修改,表示這種新的內(nèi)存模型

相比于以前的內(nèi)存模型而言,store的時候數(shù)據(jù)會先被放到store buffer里面,然后再被寫到L1 cache里。


首先我們思考單核上的兩條指令:
S1:store flag= set
S2:load r1=data
S3:store b=set

如果在順序存儲模型中,S1肯定會比S2先執(zhí)行。但是如果在加入了store buffer之后,S1將指令放到了store buffer后會立刻返回,這個時候會立刻執(zhí)行S2。S2是read指令,CPU必須等到數(shù)據(jù)讀取到r1后才會繼續(xù)執(zhí)行。這樣很可能S1的store flag=set指令還在store buffer上,而S2的load指令可能已經(jīng)執(zhí)行完(特別是data在cache上存在,而flag沒在cache中的時候。這個時候CPU往往會先執(zhí)行S2,這樣可以減少等待時間)
這里就可以看出再加入了store buffer之后,內(nèi)存一致性模型就發(fā)生了改變。

如果我們定義store buffer必須嚴(yán)格按照FIFO的次序?qū)?shù)據(jù)發(fā)送到主存(所謂的FIFO表示先進(jìn)入store buffer的指令數(shù)據(jù)必須先于后面的指令數(shù)據(jù)寫到存儲器中),這樣S3必須要在S1之后執(zhí)行,CPU能夠保證store指令的存儲順序,這種內(nèi)存模型就叫做完全存儲定序(TSO)。

我們繼續(xù)看下面的一段代碼



在SC模型里,C1與C2是嚴(yán)格按照順序執(zhí)行的
代碼可能的執(zhí)行順序如下:
S1 S2 L1 L2
S1 L1 S2 L2
S1 L1 L2 S2
L1 L2 S1 S2
L1 S1 S2 L2
L1 S1 L2 S2

由于SC會嚴(yán)格按照順序進(jìn)行,最終我們看到的結(jié)果是至少有一個CORE的r1值為NEW,或者都為NEW。

在TSO模型里,由于store buffer的存在,L1和S1的store指令會被先放到store buffer里面,然后CPU會繼續(xù)執(zhí)行后面的load指令。Store buffer中的數(shù)據(jù)可能還沒有來得及往存儲器中寫,這個時候我們可能看到C1和C2的r1都為0的情況。

所以,我們可以看到,在store buffer被引入之后,內(nèi)存一致性模型已經(jīng)發(fā)生了變化(從SC模型變?yōu)榱薚SO模型),會出現(xiàn)store-load亂序的情況,這就造成了代碼執(zhí)行邏輯與我們預(yù)先設(shè)想不相同的情況。而且隨著內(nèi)存一致性模型越寬松(通過允許更多形式的亂序讀寫訪問),這種情況會越劇烈,會給多線程編程帶來很大的挑戰(zhàn)。

4部分存儲定序

芯片設(shè)計人員并不滿足TSO帶來的性能提升,于是他們在TSO模型的基礎(chǔ)上繼續(xù)放寬內(nèi)存訪問限制,允許CPU以非FIFO來處理store buffer緩沖區(qū)中的指令。CPU只保證地址相關(guān)指令在store buffer中才會以FIFO的形式進(jìn)行處理,而其他的則可以亂序處理,所以這被稱為部分存儲定序(PSO)。

那我們繼續(xù)分析下面的代碼


S1與S2是地址無關(guān)的store指令,cpu執(zhí)行的時候都會將其推到store buffer中。如果這個時候flag在C1的cahe中存在,那么CPU會優(yōu)先將S2的store執(zhí)行完,然后等data緩存到C1的cache之后,再執(zhí)行store data=NEW指令。
這個時候可能的執(zhí)行順序:
S2 L1 L2 S1

這樣在C1將data設(shè)置為NEW之前,C2已經(jīng)執(zhí)行完,r2最終的結(jié)果會為0,而不是我們期望的NEW,這樣PSO帶來的store-store亂序?qū)ξ覀兊拇a邏輯造成致命影響。

從這里可以看到,store-store亂序的時候就會將我們的多線程代碼完全擊潰。所以在PSO內(nèi)存模型的架構(gòu)上編程的時候,要特別注意這些問題。

5寬松內(nèi)存模型

喪心病狂的芯片研發(fā)人員為了榨取更多的性能,在PSO的模型的基礎(chǔ)上,更進(jìn)一步的放寬了內(nèi)存一致性模型,不僅允許store-load,store-store亂序。還進(jìn)一步允許load-load,load-store亂序, 只要是地址無關(guān)的指令,在讀寫訪問的時候都可以打亂所有l(wèi)oad/store的順序,這就是寬松內(nèi)存模型(RMO)。

我們再看看上面分析過的代碼


在PSO模型里,由于S2可能會比S1先執(zhí)行,從而會導(dǎo)致C2的r2寄存器獲取到的data值為0。在RMO模型里,不僅會出現(xiàn)PSO的store-store亂序,C2本身執(zhí)行指令的時候,由于L1與L2是地址無關(guān)的,所以L2可能先比L1執(zhí)行,這樣即使C1沒有出現(xiàn)store-store亂序,C2本身的load-load亂序也會導(dǎo)致我們看到的r2為0。從上面的分析可以看出,RMO內(nèi)存模型里亂序出現(xiàn)的可能性會非常大,這是一種亂序隨可見的內(nèi)存一致性模型。

6內(nèi)存屏障

芯片設(shè)計人員為了盡可能的榨取CPU的性能,引入了亂序的內(nèi)存一致性模型,這些內(nèi)存模型在多線程的情況下很可能引起軟件邏輯問題。為了解決在有些一致性模型上可能出現(xiàn)的內(nèi)存訪問亂序問題,芯片設(shè)計人員提供給了內(nèi)存屏障指令,用來解決這些問題。

內(nèi)存屏障的最根本的作用就是提供一個機(jī)制,要求CPU在這個時候必須以順序存儲一致性模型的方式來處理load與store指令,這樣才不會出現(xiàn)內(nèi)存訪問不一致的情況。

對于TSO和PSO模型,內(nèi)存屏障只需要在store-load/store-store時需要(寫內(nèi)存屏障),最簡單的一種方式就是內(nèi)存屏障指令必須保證store buffer數(shù)據(jù)全部被清空的時候才繼續(xù)往后面執(zhí)行,這樣就能保證其與SC模型的執(zhí)行順序一致。
而對于RMO,在PSO的基礎(chǔ)上又引入了load-load與load-store亂序。RMO的讀內(nèi)存屏障就要保證前面的load指令必須先于后面的load/store指令先執(zhí)行,不允許將其訪問提前執(zhí)行。

我們繼續(xù)看下面的例子:


例如C1執(zhí)行S1與S2的時候,我們在S1與S2之間加上寫屏障指令,要求C1按照順序存儲模型來進(jìn)行store的執(zhí)行,而在C2端的L1與L2之間加入讀內(nèi)存屏障,要求C2也按照順序存儲模型來進(jìn)行l(wèi)oad操作,這樣就能夠?qū)崿F(xiàn)內(nèi)存數(shù)據(jù)的一致性,從而解決亂序的問題。

ARM的很多微架構(gòu)就是使用RMO模型,所以我們可以看到ARM提供的dmb內(nèi)存指令有多個選項:

LD load-load/load-store
ST store-store/store-load
SY any-any

這些選項就是用來應(yīng)對不同情況下的亂序,讓其回歸到順序一致性模型的執(zhí)行順序上去

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲器
    +關(guān)注

    關(guān)注

    38

    文章

    7649

    瀏覽量

    167321
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11076

    瀏覽量

    216998
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3122

    瀏覽量

    75243
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    車用鋰離子電池機(jī)理建模與并聯(lián)模組不一致性研究

    車用鋰離子電池機(jī)理建模與并聯(lián)模組不一致性研究
    發(fā)表于 05-16 21:02

    堆焊熔池輪廓實時監(jiān)控,實現(xiàn)工藝穩(wěn)定性與焊縫一致性

    及稀釋程度等關(guān)鍵參數(shù)對焊層質(zhì)量有直接影響,實時監(jiān)控熔池輪廓和溫度分布可及時預(yù)警缺陷并指導(dǎo)參數(shù)優(yōu)化,以保證焊層一致性與工藝穩(wěn)定性。今天起了解堆焊熔池輪廓實時監(jiān)控,實現(xiàn)工藝穩(wěn)定性與焊縫一致性。 堆焊簡介 堆焊,又
    的頭像 發(fā)表于 04-24 17:15 ?251次閱讀
    堆焊熔池輪廓實時監(jiān)控,實現(xiàn)工藝穩(wěn)定性與焊縫<b class='flag-5'>一致性</b>

    一致性校正與邊緣融合拼接

    電子發(fā)燒友網(wǎng)站提供《差一致性校正與邊緣融合拼接.pdf》資料免費下載
    發(fā)表于 04-10 18:02 ?0次下載

    請問如何保證多片AD1278的通道之間相位一致性?

    讀取手冊,發(fā)現(xiàn)要保證多片AD1278的通道之間相位一致性需要兩點:1、CLK一致;2、SYNC_N同時拉高。 我的情況: 1、各個AD1278的CLK來著不同的時鐘源,即分別采用10ppm
    發(fā)表于 01-14 06:02

    FCB-EV9520L光軸一致性的典范,焦距變換精準(zhǔn)如初

    索尼FCB-EV9520L出色的光軸一致性在多個應(yīng)用場景中展現(xiàn)出了其獨特的優(yōu)勢和價值。通過提高圖像的準(zhǔn)確、減少圖像畸變以及增強(qiáng)應(yīng)用場景的適應(yīng),F(xiàn)CB-EV9520L成為了市場上備受矚目的視頻產(chǎn)品解決方案之
    的頭像 發(fā)表于 12-09 09:45 ?643次閱讀
    FCB-EV9520L光軸<b class='flag-5'>一致性</b>的典范,焦距變換精準(zhǔn)如初

    一致性測試系統(tǒng)的技術(shù)原理和也應(yīng)用場景

    的測試記錄文件進(jìn)行分析,按照測試報告描述規(guī)格生成一致性測試報告。協(xié)議一致性測試報告記錄了所有測試案例的測試結(jié)果,即成功(PASS)、失?。‵AIL)、不確定(INCONCLUSIVE)。 應(yīng)用場
    發(fā)表于 11-01 15:35

    異構(gòu)計算下緩存一致性的重要

    在眾多回復(fù)中,李博杰同學(xué)的回答被認(rèn)為質(zhì)量最高。他首先將緩存一致性分為兩個主要場景:是主機(jī)內(nèi)CPU與設(shè)備間的一致性;二是跨主機(jī)的一致性
    的頭像 發(fā)表于 10-24 17:00 ?1704次閱讀
    異構(gòu)計算下緩存<b class='flag-5'>一致性</b>的重要<b class='flag-5'>性</b>

    LMK05318的ITU-T G.8262一致性測試結(jié)果

    電子發(fā)燒友網(wǎng)站提供《LMK05318的ITU-T G.8262一致性測試結(jié)果.pdf》資料免費下載
    發(fā)表于 09-20 11:21 ?0次下載
    LMK05318的ITU-T G.8262<b class='flag-5'>一致性</b>測試結(jié)果

    TPS23882B SIFOs IEEE802.3bt 一致性測試報告

    電子發(fā)燒友網(wǎng)站提供《TPS23882B SIFOs IEEE802.3bt 一致性測試報告.pdf》資料免費下載
    發(fā)表于 09-03 10:48 ?1次下載
    TPS23882B SIFOs IEEE802.3bt <b class='flag-5'>一致性</b>測試報告

    級聯(lián)一致性和移相器校準(zhǔn)應(yīng)用手冊

    電子發(fā)燒友網(wǎng)站提供《級聯(lián)一致性和移相器校準(zhǔn)應(yīng)用手冊.pdf》資料免費下載
    發(fā)表于 08-29 10:48 ?0次下載
    級聯(lián)<b class='flag-5'>一致性</b>和移相器校準(zhǔn)應(yīng)用手冊

    電感值和直流電阻的一致性如何提高?

    提高電感值和直流電阻的一致性,可以從以下幾個方面入手: 、提高電感值的一致性 優(yōu)化磁芯選擇 : 磁芯是電感器的關(guān)鍵組成部分,其材料特性和尺寸直接影響電感值。選擇具有高磁導(dǎo)率、低磁阻和
    的頭像 發(fā)表于 08-19 15:27 ?709次閱讀

    LIN一致性測試規(guī)范2.1

    電子發(fā)燒友網(wǎng)站提供《LIN一致性測試規(guī)范2.1.pdf》資料免費下載
    發(fā)表于 08-15 17:14 ?8次下載

    OPA569過溫信號一致性差是什么原因?qū)е碌模?/a>

    OPA569作為輸出級,輸出短路的時候,OPA569溫度上升較快。 同款產(chǎn)品,均輸出短路,有些產(chǎn)品短路僅幾秒鐘就采集到OPA569的7腳的過溫信號了。而有些產(chǎn)品需要過2-3分鐘才發(fā)出過溫信號。這是什么原因呢,一致性差別太大了。
    發(fā)表于 08-08 08:14

    是德科技通過NB-IoT NTN一致性測試

    近日,知名電子測量儀器制造商是德科技(Keysight Technologies, Inc.)欣然宣布,其針對3GPP Rel-17標(biāo)準(zhǔn)中關(guān)于NB-IoT NTN技術(shù)的全新一致性測試用例已順利通過
    的頭像 發(fā)表于 07-31 13:07 ?1481次閱讀

    羅德與施瓦茨引領(lǐng)3GPP關(guān)鍵任務(wù)通信服務(wù)設(shè)備一致性

    羅德與施瓦茨(以下簡稱“R&S”)為全球認(rèn)證論壇(GCF)成功驗證了MCPTT(Misson-critical push-to-talk)協(xié)議一致性測試用例,其R&S TS PCT
    的頭像 發(fā)表于 07-15 14:12 ?1155次閱讀