CPU緩存：通過優(yōu)化的的讀取機(jī)制，可以使CPU讀取緩存的命中率非常高（大多數(shù)CPU可達(dá)90%左右），也就是說CPU下一次要讀取的數(shù)據(jù)90%都在緩存中，只有大約10%需要從內(nèi)存讀取。這大大節(jié)省了CPU直接讀取內(nèi)存的時間，也使CPU讀取數(shù)據(jù)時基本無需等待。

總的來說，CPU讀取數(shù)據(jù)的順序是先緩存后內(nèi)存。

CPU內(nèi)核集成的緩存稱為一級緩存（L1 cache），而外部的稱為二級緩存（L2 Cache）；后來隨著生產(chǎn)技術(shù)的不斷提高，最終二級緩存也被挪進(jìn)了CPU當(dāng)中。通常一級緩存中還分?jǐn)?shù)據(jù)緩存（Data Cache， D-Cache）和指令緩存（Instruction Cache， I-Cache）。二者分別用來存放數(shù)據(jù)和執(zhí)行這些數(shù)據(jù)的指令，而且兩者可以同時被CPU訪問，減少了爭用Cache所造成的沖突，提高了CPU效能。

CPU的一級緩存通常都是靜態(tài)RAM，速度非常的快，但是靜態(tài)RAM集成度低（存儲相同的數(shù)據(jù)，靜態(tài)RAM的體積是動態(tài)RAM的6倍），而且價格也相對較為昂貴（同容量的靜態(tài)RAM是動態(tài)RAM的四倍）。

擴(kuò)大靜態(tài)RAM作為緩存是一個不太合算的做法，但是為了提高系統(tǒng)的性能和速度又必須要擴(kuò)大緩存，這就有了一個折中的方法：在不擴(kuò)大原來的靜態(tài)RAM緩存容量的情況下，僅僅增加一些高速動態(tài)RAM做為L2級緩存。高速動態(tài)RAM速度要比常規(guī)動態(tài)RAM快，但比原來的靜態(tài)RAM緩存慢，而且成本也較為適中。一級緩存和二級緩存中的內(nèi)容都是內(nèi)存中訪問頻率高的數(shù)據(jù)的復(fù)制品（映射），它們的存在都是為了減少高速CPU對慢速內(nèi)存的訪問。

二級緩存是CPU性能表現(xiàn)的關(guān)鍵之一，在CPU核心不變化的情況下，增加二級緩存容量能使性能大幅度提高。而同一核心的CPU高低端之分往往也是在二級緩存上存在差異，由此可見二級緩存對CPU的重要性。

CPU在緩存中找到有用的數(shù)據(jù)被稱為命中，當(dāng)緩存中沒有CPU所需的數(shù)據(jù)時（這時稱為未命中），CPU才訪問內(nèi)存。從理論上講，在一顆擁有二級緩存的CPU中，讀取一級緩存的命中率為80%。也就是說CPU一級緩存中找到的有用數(shù)據(jù)占數(shù)據(jù)總量的80%，剩下的20%從二級緩存中讀取。由于不能準(zhǔn)確預(yù)測將要執(zhí)行的數(shù)據(jù)，讀取二級緩存的命中率也在80%左右（從二級緩存讀到有用的數(shù)據(jù)占總數(shù)據(jù)的16%）。那么還有的數(shù)據(jù)就不得不從內(nèi)存調(diào)用，但這已經(jīng)是一個相當(dāng)小的比例了。

目前的較高端CPU中，還會帶有三級緩存，它是為讀取二級緩存后未命中的數(shù)據(jù)設(shè)計(jì)的—種緩存，在擁有三級緩存的CPU中，只有約5%的數(shù)據(jù)需要從內(nèi)存中調(diào)用，這進(jìn)一步提高了CPU的效率，從某種意義上說，預(yù)取效率的提高，大大降低了生產(chǎn)成本卻提供了非常接近理想狀態(tài)的性能。除非某天生產(chǎn)技術(shù)變得非常強(qiáng)，否則內(nèi)存仍會存在，緩存的性能遞增特性也仍會保留。