記憶體瘋狂換頁！CPU怒批作業系統

2020 年 7 月 3 日
筆記

記憶體訪問瓶頸

我是CPU一號車間的阿Q，前一陣子我們廠里發生了一件大喜事，老闆拉到了一筆投資，準備擴大生產規模。

不過老闆挺摳門的，拉到了投資也不給我們漲點工資，就知道讓我們拚命幹活，壓榨我們的勞動力。

老闆說了，投資的錢要用來添置設備，招聘新員工，咱們原來就有八個車間了，這一下直接double，變成了十六個！我們的工資要是也能double就好了···

現在我們變成了一個16核的CPU啦！

原以為我們生產效率也能double，沒想到卻遇到了新的問題。

我們CPU裡面各個車間訪問記憶體都要通過記憶體控制器和匯流排系統，有時候碰到幾個車間都要訪問記憶體，就得要競爭。

以前我們八個車間的時候競爭情況還不是很激烈，大家互相謙讓一下也就罷了。現在變成了十六個車間都要過獨木橋，這競爭一下就激烈了，尤其是我們這幫老員工基本不會讓著新來的，為了此事經常發生不愉快。

記憶體訪問出現了瓶頸，這性能自然是折損嚴重。

NUMA架構

老闆把這一切都看在眼裡，私下裡找了我、二號車間的虎子還有匯流排主任開了個小會。

「你們幾個都是廠里的核心員工，對廠里目前的問題你們怎麼看？」，老闆問我們幾個。

我和虎子互相瞅了瞅，都沒說話。

這時匯流排主任開口了：「老闆，現在的問題是訪問記憶體的路只有一條，大家都要來擠，難免會發生摩擦，影響工作性能。要想從根本解決問題，最好再建一條路」

「再建一條路，什麼意思？」

「我建議把新擴建的那8個車間獨立出去，建一個分廠。然後再把記憶體分一下，讓兩個廠各管理一部分。一來可以減少新老員工之間的矛盾，二來可以減少大家訪問記憶體擁擠造成的資源浪費。再說了，萬一以後繼續擴大規模還可以繼續用這個辦法」，匯流排主任繼續說到。

領導正低頭思索，我倒是想到了一個問題：「主任，要是我們一號核執行的執行緒要訪問的記憶體頁面不在我們廠管理的記憶體上，在他們分廠怎麼辦呢？」

「嗯，這樣的話，兩個廠之間需要通訊，如果訪問的記憶體不在自己管轄的範圍，就要互相幫忙傳遞一下」

老闆拍了下桌子：「好主意！就這麼辦！」

第二天，老闆召集16個車間的代表，匯流排主任，還有作業系統那邊負責記憶體管理的負責人小李，一起開了一個大會，會上正式通過了新的技術方案。

還給這項技術取了一個名字：NUMA（Non Uniform Memory Access），非一致性記憶體訪問。

現有的16個車間拆分成兩個CPU工廠，叫做兩個NUMA節點（Node），每個節點直接連接一部分記憶體，兩個節點之間有專門的的inter-connect通道。各節點直接訪問自己管理的記憶體叫Local Access，通過inter-connect通道訪問其他分廠管理的記憶體叫做Remote Access。很顯然，前者的訪問速度要比後者快得多，所以這也是這項技術名字的由來：非一致性記憶體訪問。

新的組織架構調整過後，廠里的工作效率提升不少，矛盾摩擦也少了很多，又可以愉快的幹活了。