犧牲速度來節省記憶體，Redis是覺得自己太快了嗎

• 2021 年 1 月 15 日
• 筆記
• Redis

前言

本文GitHub已收錄：//zhouwenxing.github.io/

正常情況下我們選擇使用 Redis 就是為了提升查詢速度，然而讓人意外的是，Redis 當中卻有一種比較有意思的數據結構，這種數據結構通過犧牲部分讀寫速度來達到節省記憶體的目的，這就是 ziplist（壓縮列表），Redis 為什麼要這麼做呢？難道真的是覺得自己的速度太快了，犧牲一點速度也不影響嗎？

什麼是壓縮列表

ziplist 是為了節省記憶體而設計出來的一種數據結構。ziplist 是由一系列特殊編碼組成的連續記憶體塊的順序型數據結構，一個 ziplist 可以包含任意多個 entry，而每一個 entry 又可以保存一個位元組數組或者一個整數值。

ziplist 作為一種列表，其和普通的雙端列表，如 linkedlist 的最大區別就是 ziplist 並不存儲前後節點的指針，而 linkedlist 一般每個節點都會維護一個指向前置節點和一個指向後置節點的指針。那麼 ziplist 不維護前後節點的指針，它又是如何尋找前後節點的呢？

ziplist 雖然不維護前後節點的指針，但是它卻維護了上一個節點的長度和當前節點的長度，然後每次通過長度來計算出前後節點的位置。既然涉及到了計算，那麼相對於直接存儲指針的方式肯定有性能上的損耗，這就是一種典型的用時間來換取空間的做法。因為每次讀取前後節點都需要經過計算才能得到前後節點的位置，所以會消耗更多的時間，而在 Redis 中，一個指針是佔了 8 個位元組，但是大部分情況下，如果直接存儲長度是達不到 8 個位元組的，所以採用存儲長度的設計方式在大部分場景下是可以節省記憶體空間的。

ziplist 的存儲結構

ziplist 的組成結構為：

<zlbytes> <zltail> <zllen> <entry> <entry> ... <entry> <zlend>

其中 zlbytes，zltail，zllen 為 ziplist 的 head 部分，entry 為 ziplist 的 entries 部分，每一個 entry 代表一個數據，最後 zlend 表示 ziplist 的 end 部分，如下圖所示：

ziplist 中每個屬性代表的含義如下表格所示：

entry 存儲結構

ziplist 的 head 和 end 存的都是長度和標記，而 entry 存儲的是具體元素，這又是經過特殊的設計的一種存儲格式，每個 entry 都以包含兩段資訊的元數據作為前綴，每一個 entry 的組成結構為：

<prevlen> <encoding> <entry-data>

prevlen

prevlen 屬性存儲了前一個 entry 的長度，通過此屬性能夠從後到前遍歷列表。 prevlen 屬性的長度可能是 1 位元組也可能是 5 位元組：

• 當鏈表的前一個 entry 佔用位元組數小於 254，此時 prevlen 只用 1 個位元組進行表示。

<prevlen from 0 to 253> <encoding> <entry>

• 當鏈表的前一個 entry 佔用位元組數大於等於 254，此時 prevlen 用 5 個位元組來表示，其中第 1 個位元組的值固定是 254（相當於是一個標記，代表後面跟了一個更大的值），後面 4 個位元組才是真正存儲前一個 entry 的佔用位元組數。

0xFE <4 bytes unsigned little endian prevlen> <encoding> <entry>

注意：1 個位元組完全你能存儲 255 的大小，之所以只取到 254 是因為 zlend 就是固定的 255，所以 255 這個數要用來判斷是否是 ziplist 的結尾。

encoding

encoding 屬性存儲了當前 entry 所保存數據的類型以及長度。encoding 長度為 1 位元組，2 位元組或者 5 位元組長。前面我們提到，每一個 entry 中可以保存位元組數組和整數，而 encoding 屬性的第 1 個位元組就是用來確定當前 entry 存儲的是整數還是位元組數組。當存儲整數時，第 1 個位元組的前兩位總是 11，而存儲位元組數組時，則可能是 00、01 和 10 三種中的一種。

• 當存儲整數時，第 1 個位元組的前 2 位固定為 11，其他位則用來記錄整數值的類型或者整數值（下表所示的編碼中前兩位均為 11）：

注意：xxxx 四位編碼範圍是 0000-1111，但是 0000，1111 和 1110 已經被表格中前面表示的數據類型佔用了，所以實際上的範圍是 0001-1101，此時能保存數據 1-13，再減去 1 之後範圍就是 0-12。至於為什麼要減去 1 是從使用習慣來說 0 是一個非常常用的數據，所以才會選擇統一減去 1 來存儲一個 0-12 的區間而不是直接存儲 1-13 的區間。

• 當存儲位元組數組時，第 1 個位元組的前 2 位為 00、01 或者 10，其他位則用來記錄位元組數組的長度：

entry-data

entry-data 存儲的是具體數據。當存儲小整數（0-12）時，因為 encoding 就是數據本身，此時 entry-data 部分會被省略，省略了 entry-data 部分之後的 ziplist 中的 entry 結構如下：

<prevlen> <encoding>

壓縮列表中 entry 的數據結構定義如下（源碼 ziplist.c 文件內），當然實際存儲並沒有直接使用到這個結構定義，這個結構只是用來接收數據，所以大家了解一下就可以了：

typedef struct zlentry {
    unsigned int prevrawlensize;//存儲prevrawlen所佔用的位元組數
    unsigned int prevrawlen;//存儲上一個鏈表節點需要的位元組數
    unsigned int lensize;//存儲len所佔用的位元組數
    unsigned int len;//存儲鏈表當前節點的位元組數
    unsigned int headersize;//當前鏈表節點的頭部大小(prevrawlensize + lensize)即非數據域的大小
    unsigned char encoding;//編碼方式
    unsigned char *p;//指向當前節點的起始位置(因為列表內的數據也是一個字元串對象)
} zlentry;

ziplist 數據示例

上面講解了大半天，可能大家都覺得枯燥無味了，也可能會覺得雲里霧裡，這個沒有關係，這些只要心裡有個概念，用到的時候再查詢對應資料就可以了，並不需要全部記住，接下來讓我們一起通過兩個例子來體會一下 ziplist 到底是如何來組織存儲數據的。

下面就是一個壓縮列表的存儲示例，這個壓縮列表裡面存儲了 2 個節點，節點中存儲的是整數 2 和 5：

[0f 00 00 00] [0c 00 00 00] [02 00] [00 f3] [02 f6] [ff]
      |             |          |       |       |     |
   zlbytes        zltail     zllen    "2"     "5"   end

1. 第一組 4 個位元組為 zlbytes 部分，0f 轉成二進位就是 1111 也就是 15，代表整個 ziplist 長度是 15 個位元組。
2. 第二組 4 個位元組 zltail 部分，0c 轉成二進位就是 1100 也就是 12，這裡記錄的是壓縮列表尾節點距離起始地址有多少個位元組，也就是就是說 [02 f6] 這個尾節點距離起始位置有 12 個位元組。
3. 第三組 2 個位元組就是記錄了當前 ziplist 中 entry 的數量，02 轉成二進位就是 10，也就是說當前 ziplist 有 2 個節點。
4. 第四組 2 個位元組 [00 f3] 就是第一個 entry，00 表示 0，因為這是第 1 個節點，所以前一個節點長度為 0，f3 轉成二進位就是 11110011，剛好對應了表格中的編碼 1111xxxx，所以後面四位就是存儲了一個 0-12位的整數。0011 轉成十進位就是 3，減去 1 得到 2，所以第一個 entry 存儲的數據就是 2。
5. 第五組 2 個位元組 [02 f6] 就是第二個 entry，02 即為 2，表示前一個節點的長度為 2，注意，因為這裡算出來的結果是小於 254，所以就代表了這裡只用到了 1 個位元組來存儲上一個節點的長度（如果等於 254，這說明接下來 4 個位元組才存儲的是長度），所以後面的 f6 就是當前節點的數據，轉換成二進位為 11110110，對應了表格中的編碼 1111xxxx，同樣的後四位 0110 存儲的是真實數據，計算之後得出是5。
6. 最後一組1個位元組[ff]轉成二進位就是 11111111，代表這是整個 ziplist 的結尾。

假如這時候又添加了一個 Hello World 字元串到列表中，那麼就會新增一個 entry，如下所示：

[02] [0b] [48 65 6c 6c 6f 20 57 6f 72 6c 64]

1. 第一組的 1 個位元組 02 轉成十進位就是 2 ，表示前一個節點（即上面示例中的 [02 f6]）長度是 2。
2. 第 二組的2 個位元組 0b 轉成二進位為 00001011，以 00 開頭，符合編碼 00pppppp，而除掉最開始的兩位 00，計算之後得到十進位 11，這就說明後面位元組數組的長度是 11。
3. 第三組剛好是 11 個位元組，對應了上面的長度，所以這裡就是真正存儲了 Hello World 的位元組數組。

ziplist 連鎖更新問題

上面提到 entry 中的 prevlen 屬性可能是 1 個位元組也可能是 5 個位元組，那麼我們來設想這麼一種場景：假設一個 ziplist 中，連續多個 entry 的長度都是一個接近但是又不到 254 的值（介於 250~253 之間），那麼這時候 ziplist 中每個節點都只用了 1 個位元組來存儲上一個節點的長度，假如這時候添加了一個新節點，如 entry1 ，其長度大於 254 個位元組，此時 entry1 的下一個節點 entry2 的 prelen 屬性就必須要由 1 個位元組變為 5 個位元組，也就是需要執行空間重分配，而此時 entry2 因為增加了 4 個位元組，導致長度又大於 254 個位元組了，那麼它的下一個節點 entry3 的 prelen 屬性也會被改變為 5 個位元組。依此類推，這種產生連續多次空間重分配的現象就稱之為連鎖更新。同樣的，不僅僅是新增節點，執行刪除節點操作同樣可能會發生連鎖更新現象。

雖然 ziplist 可能會出現這種連鎖更新的場景，但是一般如果只是發生在少數幾個節點之間，那麼並不會嚴重影響性能，而且這種場景發生的概率也比較低，所以實際使用時不用過於擔心。

總結

本文主要講解了 Redis 當中的 ziplist（壓縮列表），一種用時間換取空間的數據結構，在介紹壓縮列表存儲結構的同時通過一個存儲示例來分析了 ziplist 是如何存儲數據的，最後介紹了 ziplist 中可能發生的連鎖更新問題。