內(nèi)存中的數(shù)據(jù)被劃分成若干個(gè)緩存塊，每個(gè)緩存塊的大小正好對應(yīng)著一整個(gè)三級緩存的大小。如此一來，數(shù)據(jù)在內(nèi)存中緩存塊里的偏移量正好就對應(yīng)著該數(shù)據(jù)應(yīng)該存在于緩存中的位置。舉個(gè)例子，假設(shè)內(nèi)存中一共有四個(gè)緩存塊，記為00，01，10，11四塊。每個(gè)緩存塊又可以劃分成四個(gè)緩存行，記為00，01，10，11四行。結(jié)合起來，最上面緩存塊的最上面的緩存行就可以寫成0000，則這個(gè)部分的數(shù)據(jù)應(yīng)該存在于緩存中的第一個(gè)緩存行的位置即00位置。如果1000號緩存行需要寫入，那么就要把0000號緩存行擦除再寫入，不能存儲在緩存中別的地方即使還有空間存放。

從內(nèi)存到緩存的分類規(guī)則

我們會發(fā)現(xiàn)一個(gè)問題，就是如果我們持續(xù)需要0000號緩存行和1000號緩存行中的數(shù)據(jù)，那么這倆緩存行會被互相擦除寫入，就像打乒乓球一樣，擦了又寫，寫了又擦，而緩存中可能別的位置還空著，造成浪費(fèi)資源，效率低下的乒乓效應(yīng)。

解決的辦法之一就是加大緩存容量。很好理解，緩存變大了，取一個(gè)極限，假設(shè)緩存和內(nèi)存一樣大了，那肯定就不存在乒乓效應(yīng)了，但是這幾乎不可能。

還有一個(gè)有意思的思路是，設(shè)置一個(gè)受害者緩存，（哈哈，這個(gè)英文名是我自己亂翻譯的）。這個(gè)受害者緩存會暫時(shí)保留一下不久前剛被擦除的數(shù)據(jù)，緩存控制器在讀取緩存時(shí)就捎帶看看這個(gè)受害者緩存里有沒有想要的數(shù)據(jù)，如果真的碰到了，那這個(gè)數(shù)據(jù)真就是受害了，冤的很。這個(gè)電路實(shí)現(xiàn)也很簡單，沒啥難度，就是效果可能有點(diǎn)玄學(xué)。

有沒有什么不那么玄學(xué)的方法呢？于是前人提出了多路組關(guān)聯(lián)。既然前文如此粗暴的分割方式會造成乒乓效應(yīng)，那么我們干脆多來幾個(gè)可替換的位置。還是以上面的例子，假設(shè)內(nèi)存中一共有四個(gè)緩存塊，記為00，01，10，11四塊。每個(gè)緩存塊又可以劃分成四個(gè)緩存行，記為00，01，10，11四行?，F(xiàn)在不同的是我們把緩存劃分成兩路，暫且叫做A路和B路吧。保持和上文中的緩存容量大小一致，那么每路緩存中現(xiàn)在只夠存儲兩個(gè)緩存行了，記為0號和1號緩存行?？偨Y(jié)一下，現(xiàn)在緩存方面有AB兩路，每路有01兩行。內(nèi)存方面則一共有四個(gè)緩存塊，每個(gè)緩存塊有四個(gè)緩存行?，F(xiàn)在規(guī)定內(nèi)存中緩存行編號最后一位是0的可以存在緩存的A或B路的0號緩存行中，內(nèi)存中緩存行編號最后一位是1的可以存在緩存的A或B路的1號緩存行中。發(fā)現(xiàn)問題沒有？因?yàn)槟┪矠橥痪幪柕木彺嫘锌梢酝瑫r(shí)存在于A或者B中，因此乒乓效應(yīng)會有所改善。

上述例子展示的是兩路組關(guān)聯(lián)，目前主流使用的是四路組關(guān)聯(lián)，但實(shí)際上路的個(gè)數(shù)要結(jié)合緩存與內(nèi)存的比例來綜合判斷，例如上述例子，兩路組關(guān)聯(lián)就不太合適，單路的容量被壓縮得太小了。

另外，上文所講的是內(nèi)存和三級緩存之間的關(guān)聯(lián)情況，該情況可以推廣至三級緩存和二級緩存之間以及二級緩存和一級緩存之間。在此就不再贅述了。

這里還是要注意一個(gè)之前說過的細(xì)節(jié)，CPU并不會主動(dòng)控制緩存寫入內(nèi)存中的數(shù)據(jù)的，也就是說緩存對于CPU來講是透明的（這個(gè)詞不是很容易理解，但是這就是之前人們翻譯的，我建議翻譯成無感知）。CPU只是說我要讀這塊內(nèi)存里的數(shù)據(jù)，它甚至不知道這個(gè)內(nèi)存數(shù)據(jù)在哪里，它只負(fù)責(zé)宣布這件事，而緩存和內(nèi)存則負(fù)責(zé)把它要的數(shù)據(jù)喂給它而已。緩存在喂給它之后留了個(gè)“心眼”——“咱家主子（CPU）最近偏愛000110100這塊內(nèi)存數(shù)據(jù)，我就把這塊數(shù)據(jù)留在我這里，到時(shí)候要的時(shí)候拿著方便“?？炊藛幔恳磺卸际桥抛宰髦鲝?。

再打個(gè)比方，CPU和緩存的關(guān)系就像我和我的胃。我不用控制我的胃蠕動(dòng)消化，我不用控制神經(jīng)元突觸釋放神經(jīng)遞質(zhì)，我只負(fù)責(zé)做最高級，最抽象的工作，比如控制我的手寫下這篇文章。我不知道我有胃這種東西，也不知道什么神經(jīng)遞質(zhì)、細(xì)胞、組織啥的，就像CPU不知道緩存一樣，我之所以知道這些是因?yàn)橛腥俗隽巳梭w解剖等生物研究，CPU想了解這些可能得等人工智能解剖另一個(gè)人工智能的時(shí)候，或者——用它的意識來讀讀我這篇文章。

話說回來，各級緩存之間有兩種不太相同的緩存策略，分別是Inclusive和Exclusive。

前者意思是包含，后者意思是不包含。包含的意思是，三級緩存中一定會存在著二級緩存和一級緩存里的數(shù)據(jù)，二級緩存一定會存在著一級緩存的數(shù)據(jù)，其實(shí)質(zhì)就是數(shù)據(jù)從三級往一級走的過程中用的是“復(fù)制”。

而不包含的意思是，三級緩存中必不存在二級緩存和一級緩存里的數(shù)據(jù)，二級緩存中必不存在一級緩存的數(shù)據(jù)，其實(shí)質(zhì)就是數(shù)據(jù)從三級往一級走的過程中用的是“剪切”。這兩種緩存策略的優(yōu)劣應(yīng)該一眼能看出：包含策略會造成緩存空間浪費(fèi)，并且各級之間的數(shù)據(jù)更新需要保持同步，優(yōu)點(diǎn)則是數(shù)據(jù)的廢除很直接，還有一個(gè)優(yōu)點(diǎn)這里先挖個(gè)坑吧。而不包含策略則不會造成緩存浪費(fèi)，并且具有很好的緩存一致性（即不需要同步），但是數(shù)據(jù)交換量會變得很大。

這里分別用緩存寫入數(shù)據(jù)的例子說說包含和不包含兩種緩存策略。一開始，CPU首先發(fā)出一個(gè)讀內(nèi)存指令，該指令會附帶著該內(nèi)存地址從CPU內(nèi)核轉(zhuǎn)發(fā)至一級緩存控制器，假設(shè)一級緩存沒有在本級緩存找到想要的數(shù)據(jù)，那么就會將讀內(nèi)存指令的請求往二級緩存控制器轉(zhuǎn)發(fā)，以此類推，如果都沒能找到數(shù)據(jù)，那么最后內(nèi)存控制器會得到這條讀內(nèi)存指令，并將數(shù)據(jù)返回至CPU內(nèi)核，同時(shí)該條數(shù)據(jù)會在CPU的一級緩存上得到保存（如果是使用Inclusive緩存策略，那么該數(shù)據(jù)也同時(shí)會在二級和三級緩存上得到保存），以便于下次再次使用。然而緩存在電腦開機(jī)之后不久肯定就被填滿了，這時(shí)候要有新的數(shù)據(jù)要寫入緩存那么肯定需要把一些過時(shí)的數(shù)據(jù)給替換出去。那么具體是怎么個(gè)替換策略呢？這就考驗(yàn)奴才們對于主子心思的把控了。這時(shí)候有個(gè)聰明的奴才在總結(jié)了多次經(jīng)驗(yàn)后，提出了LRU替換策略，中文名譯為最近最少使用替換策略，很容易理解，就是最近最少使用的數(shù)據(jù)將會被新數(shù)據(jù)替換掉。

而包含和不包含的區(qū)別在這里就會有所體現(xiàn)。如果是包含策略，那么新數(shù)據(jù)直接覆蓋舊數(shù)據(jù)即可，舊數(shù)據(jù)等于直接作廢，除非這個(gè)數(shù)據(jù)最近在CPU中被改寫過，需要返回到內(nèi)存中進(jìn)行保存，那么才需要將該緩存行刷回內(nèi)存（那么如何確定該緩存行是否被改寫過呢？可以用一個(gè)名為dirty的標(biāo)志位注明）。而如果是不包含策略，那么一級緩存淘汰下來的數(shù)據(jù)就要放置到二級緩存，如果不巧二級緩存也滿了，那么仍需淘汰一個(gè)緩存下來。當(dāng)然，你也可以選擇如果二級緩存或者三級緩存沒空位，那么就直接把淘汰下來的數(shù)據(jù)扔回內(nèi)存，但是這樣命中率就會嚴(yán)重下降（等于整個(gè)緩存體系的容量和一級緩存是一樣大的）。并且如果是二級緩存或者三級緩存中的數(shù)據(jù)要寫入到一級緩存中，那么需要把該二級或者三級緩存的緩存行與一級緩存做一個(gè)交換，而不是覆蓋。

那究竟是用Inclusive還是Exclusive呢？各大CPU廠商給出了答案，Exclusive成為目前主流使用的緩存策略。Intel前幾年還在用Inclusive來著，最近這幾年也轉(zhuǎn)而使用了Exclusive，說明Exclusive的優(yōu)勢比我們想象的大。


審核編輯：劉清