存儲引擎

很多文章都是直接開始介紹有哪些存儲引擎，並沒有去介紹存儲引擎本身。那麼究竟什麼是存儲引擎？不知道大家有沒有想過，MySQL是如何存儲我們丟進去的數據的？

其實存儲引擎也很簡單，我認為就是一種存儲解決方案，實現了新增數據、更新數據和建立索引等等功能。

有哪些已有的存儲引擎可以讓我們選擇呢？

InnoDB、MyISAM、Memory、CSV、Archive、Blackhole、Merge、Federated、Example

種類很多，但是常用的存儲引擎目前就只有InnoDB和MyISAM，我也會著重來介紹這兩種存儲引擎。

InnoDB是目前使用最廣的MySQL存儲引擎，MySQL從5.5版本開始InnoDB就已經是默認的存儲引擎了。那你知道為什麼InnoDB被廣泛的使用呢？先把這個問題放一放，我們先來了解一下InnoDB存儲引擎的底層原理。

InnoDB的記憶體架構主要分為三大塊，緩衝池（Buffer Pool）、重做緩衝池（Redo Log Buffer）和額外記憶體池

緩衝池

InnoDB為了做數據的持久化，會將數據存儲到磁碟上。但是面對大量的請求時，CPU的處理速度和磁碟的IO速度之間差距太大，為了提高整體的效率， InnoDB引入了緩衝池。

當有請求來查詢數據時，如果快取池中沒有，就會去磁碟中查找，將匹配到的數據放入快取池中。同樣的，如果有請求來修改數據，MySQL並不會直接去修改磁碟，而是會修改已經在緩衝池的頁中的數據，然後再將數據刷回磁碟，這就是緩衝池的作用，加速讀，加速寫，減少與磁碟的IO交互。

緩衝池說白了就是把磁碟中的數據丟到記憶體，那既然是記憶體就會存在沒有記憶體空間可以分配的情況。所以緩衝池採用了LRU演算法，在緩衝池中沒有空閑的頁時，來進行頁的淘汰。但是採用這種演算法會帶來一個問題叫做緩衝池污染。

當你在進行批量掃描甚至全表掃描時，可能會將緩衝池中的熱點頁全部替換出去。這樣以來可能會導致MySQL的性能斷崖式下降。所以InnoDB對LRU做了一些優化，規避了這個問題。

MySQL採用日誌先行，在真正寫數據之前，會首先記錄一個日誌，叫Redo Log，會定期的使用CheckPoint技術將新的Redo Log刷入磁碟，這個後面會講。

除了數據之外，裡面還存儲了索引頁、Undo頁、插入緩衝、自適應哈希索引、InnoDB鎖資訊和數據字典。下面選幾個比較重要的來簡單聊一聊。

插入緩衝

插入緩衝針對的操作是更新或者插入，我們考慮最壞的情況，那就是需要更新的數據都不在緩衝池中。那麼此時會有下面兩種方案。

1. 來一條數據就直接寫入磁碟
2. 等數據達到某個閾值（例如50條）才批量的寫入磁碟

很明顯，第二種方案要好一點，減少了與磁碟IO的交互。

兩次寫

鑒於都聊到了插入緩衝，我就不得不需要提一嘴兩次寫，因為我認為這兩個InnoDB的特性是相輔相成的。

插入緩衝提高了MySQL的性能，而兩次寫則在此基礎上提高了數據的可靠性。我們知道，當數據還在緩衝池中的時候，當機器宕機了，發生了寫失效，有Redo Log來進行恢復。但是如果是在從緩衝池中將數據刷回磁碟的時候宕機了呢？

這種情況叫做部分寫失效，此時重做日誌就無法解決問題。

在刷臟頁時，並不是直接刷入磁碟，而是copy到記憶體中的Doublewrite Buffer中，然後再拷貝至磁碟共享表空間（你可以就理解為磁碟）中，每次寫入1M，等copy完成後，再將Doublewrite Buffer中的頁寫入磁碟文件。

有了兩次寫機制，即使在刷臟頁時宕機了，在實例恢復的時候也可以從共享表空間中找到Doublewrite Buffer的頁副本，直接將其覆蓋原來的數據頁即可。

自適應哈希索引

自適應索引就跟JVM在運行過程中，會動態的把某些熱點程式碼編譯成Machine Code一樣，InnoDB會監控對所有索引的查詢，對熱點訪問的頁建立哈希索引，以此來提升訪問速度。

你可能多次看到了一個關鍵字頁，接下來那我們就來聊一下頁是什麼？

頁

頁，是InnoDB中數據管理的最小單位。當我們查詢數據時，其是以頁為單位，將磁碟中的數據載入到緩衝池中的。同理，更新數據也是以頁為單位，將我們對數據的修改刷回磁碟。每頁的默認大小為16k，每頁中包含了若干行的數據，頁的結構如下圖所示。

不用太糾結每個區是幹嘛的，我們只需要知道這樣設計的好處在哪兒。每一頁的數據，可以通過FileHeader中的上一下和下一頁的數據，頁與頁之間可以形成雙向鏈表。因為在實際的物理存儲上，數據並不是連續存儲的。你可以把他理解成G1的Region在記憶體中的分布。

而一頁中所包含的行數據，行與行之間則形成了單向鏈表。我們存入的行數據最終會到User Records中，當然最初User Records並不佔據任何存儲空間。隨著我們存入的數據越來越多，User Records會越來越大，Free Space的空間會越來越小，直到被佔用完，就會申請新的數據頁。

User Records中的數據，是按照主鍵id來進行排序的，當我們按照主鍵來進行查找時，會沿著這個單向鏈表一直往後找，

重做日誌緩衝

上面聊過，InnoDB中緩衝池中的頁數據更新會先於磁碟數據更新的，InnoDB也會採用日誌先行（Write Ahead Log）策略來刷新數據，什麼意思呢？當事務開始時，會先記錄Redo Log到Redo Log Buffer中，然後再更新緩衝池頁數據。

Redo Log Buffer中的數據會按照一定的頻率寫到重做日誌中去。被更改過的頁就會被標記成臟頁，InnoDB會根據CheckPoint機制來將臟頁刷到磁碟。

日誌

上面提到了Redo log，這一小節就專門來講一講日誌，日誌分為如下兩個維度。

MySQL層面

InnoDB層面

MySQL日誌

MySQL的日誌可以分為錯誤日誌、二進位文件、查詢日誌和滿查詢日誌。

• 錯誤日誌 很好理解，就是服務運行過程中發生的嚴重錯誤日誌。當我們的資料庫無法啟動時，就可以來這裡看看具體不能啟動的原因是什麼
• 二進位文件 它有另外一個名字你應該熟悉，叫Binlog，其記錄了對資料庫所有的更改。
• 查詢日誌 記錄了來自客戶端的所有語句
• 慢查詢日誌 這裡記錄了所有響應時間超過閾值的SQL語句，這個閾值我們可以自己設置，參數為long_query_time，其默認值為10s，且默認是關閉的狀態，需要手動的打開。

InnoDB日誌

InnoDB日誌就只有兩種，Redo Log和Undo Log，

• Redo Log 重做日誌，用於記錄事務操作的變化，且記錄的是修改之後的值。不管事務是否提交都會記錄下來。例如在更新數據時，會先將更新的記錄寫到Redo Log中，再更新快取中頁中的數據。然後按照設置的更新策略，將記憶體中的數據刷回磁碟。

• Undo Log 記錄的是記錄的事務開始之前的一個版本，可用於事務失敗之後發生的回滾。

Redo Log記錄的是具體某個數據頁上的修改，只能在當前Server使用，而Binlog可以理解為可以給其他類型的存儲引擎使用。這也是Binlog的一個重要作用，那就是主從複製，另外一個作用是數據恢復。

上面提到過，Binlog中記錄了所有對資料庫的修改，其記錄日誌有三種格式。分別是Statement、Row和MixedLevel。

• Statement 記錄所有會修改數據的SQL，其只會記錄SQL，並不需要記錄下這個SQL影響的所有行，減少了日誌量，提高了性能。但是由於只是記錄執行語句，不能保證在Slave節點上能夠正確執行，所以還需要額外的記錄一些上下文資訊
• Row 只保存被修改的記錄，與Statement只記錄執行SQL來比較，Row會產生大量的日誌。但是Row不用記錄上下文資訊了，只需要關注被改成啥樣就行。
• MixedLevel 就是Statement和Row混合使用。

具體使用哪種日誌，需要根據實際情況來決定。例如一條UPDATE語句更新了很多的數據，採用Statement會更加節省空間，但是相對的，Row會更加的可靠。

InnoDB和MyISAM的區別

由於MyISAM並不常用，我也不打算去深究其底層的一些原理和實現。我們在這裡簡單的對比一下這兩個存儲引擎的區別就好。我們分點來一點點描述。

• 事務 InnoDB支援事務、回滾、事務安全和奔潰恢復。而MyISAM不支援，但查詢的速度要比InnoDB更快
• 主鍵 InnoDB規定，如果沒有設置主鍵，就自動的生成一個6位元組的主鍵，而MyISAM允許沒有任何索引和主鍵的存在，索引就是行的地址
• 外鍵 InnoDB支援外鍵，而MyISAM不支援
• 表鎖 InnoDB支援行鎖和表鎖，而MyISAM只支援表鎖
• 全文索引 InnoDB不支援全文索引，但是可以用插件來實現相應的功能，而MyISAM是本身就支援全本索引
• 行數 InnoDB獲取行數時，需要掃全表。而MyISAM保存了當前表的總行數，直接讀取即可。

所以，簡單總結一下，MyISAM只適用於查詢大於更新的場景，如果你的系統查詢的情況占絕大多數（例如報表系統）就可以使用MyISAM來存儲，除此之外，都建議使用InnoDB。

End

由於時間的原因，本文只是簡單的聊了聊InnoDB的整體架構，並沒有很深入的去聊某些點。例如InnoDB是如何改進來解決緩衝池污染的，其演算法具體是什麼，checkpoint是如何工作的等等，只是做一個簡單的了解，之後如果有時間的話再細聊。

如果你覺得這篇文章對你有幫助，還麻煩點個贊，關個注，分個享，留個言

也可以微信搜索公眾號【SH的全棧筆記】，當然也可以直接掃描二維碼關注

本文使用 mdnice 排版