Redis集群擴容

  • 2019 年 11 月 7 日
  • 筆記

在使用Redis搭建集群環境時,通常會根據業務的需求,要對集群進行擴容,以滿足業務的需要。並且這也是分散式存儲比較常見的需求,在Redis中對集群進行擴容主要分為3步:

1.準備新節點

2.加入集群

3.遷移槽和數據

下面我們詳細介紹一下這3個步驟:

  • 準備新節點

我們還是向準備其它節點一樣,先修改節點配置。

# 節點埠  port 6385  # 開啟集群模式  cluster-enabled yes  # 節點超時時間,單位為毫秒  cluster-node-timeout 15000  # 集群內部配置文件  cluster-config-file "nodes-6385.conf"

啟動該節點:

./src/redis-server redis-6385.conf  ./src/redis-server redis-6386.conf

但此時新增的節點還沒有和其它節點進行通訊,所以該節點現在還沒有添加到集群環境中。


  • 加入集群

將新節點加入集群我們可以通過cluster meet命令。

cluster meet 127.0.0.1 6385  cluster meet 127.0.0.1 6386

我們看上圖所示,新節點雖然添加到了集群環境中,但新節點的類型是master的,也就是都是主節點。同樣我們也可以使用redis-trib.rb工具添加新節點,並且該命令可以直接支援添加從節點。

redis-trib.rb add-node 127.0.0.1:6385 127.0.0.1:6379  redis-trib.rb add-node 127.0.0.1:6386 127.0.0.1:6379

在生產環境中我們推薦使用redis-trib.rb命令添加新節點,因為該命令在添加新節點時會執行檢查,如果新節點已經加入集群或者包含數據,則該命令會放棄集群加入。


  • 遷移槽和數據

加入集群後需要為新節點遷移槽和相關的數據,槽在遷移的過程中集群可以正常的提供讀寫服務。下面我們詳細介紹一下這方面的內容。

1.槽遷移計劃

槽是Redis集群管理數據的基本單位,首先需要為新節點指定槽的遷移計劃,也就是將哪些節點的哪些槽遷移到新節點中。並且遷移計劃要確保每個節點負責相似數量的槽,從而保證各節點的數據均勻。槽遷移計劃確定後開始逐個把槽內數據從源節點遷移到目標節點中。


2.遷移數據

數據遷移過程是逐個槽進行的,每個槽遷移的流程如下.

流程說明:

1)對目標節點發送cluster setslot {slot} importing {sourceNodeId}命令,讓目標節點準備導入槽數據。 2)對源節點發送cluster setslot {slot} migrating {targetNodeId}命令,讓源節點準備遷出槽數據。 3)源節點循環執行cluster getkeysinslot {slot} {count}命令,獲取count個數據槽{slot}的鍵。 4)在源節點上執行migrate {targetIp} {targetPort} "" 0 {timeout} {keys} {keys …}命令。把獲取的鍵通過流水線(pipeline)機制批量遷移到目標節點。 5)重複步驟3、4部直到槽下所有的鍵值數據遷移到目標節點。 6)向集群內所有主節點發送cluster setslot {slot} node {targetNodeId}命令,通知槽分配給目標節點。


下面我們手動使用上述命令把節點6379負責的槽4096遷移到目標節點6385中,具體操作如下:

1.目標節點準備導入槽4096數據。

cluster setslot 4096 importing 目標節點ID

2.源節點注備導出槽4096數據。

cluster setslot 4096 migrating 源節點ID

3.批量獲取槽4096對應的鍵。

cluster getkeysinslot 4096 100

我們先查詢一下在6379節點是否包括上述的key。

下面我們遷移這3個鍵。

下面我們繼續在6379節點中查詢上述的3個鍵。

下面我們通知所有主節點槽4096指派給目標節點6385。

我們可以在6379節點中查看一下確定4096槽不在由6379負責。

上述內容就是手動執行槽遷移的過程。在實際的操作中因為會涉及到大量槽及鍵的遷移,所以會很不方便,因此redis-trib工具提供了槽分片功能,命令如下:

redis-trib.rb reshard host:port --form <arg> --to <arg> --slots <arg> --yes --timeout <arg> ---pepeline <arg>

下面我們介紹一下上述命令參數說明:

  • host:port:比傳參數,集群內任意節點地址,用來獲取整個集群資訊。
  • --form:制定源節點的id,如果有多個源節點,則使用逗號分割。
  • --to:需要遷移的目標節點id,並且目標節點只能指定一個。
  • --slots:需要遷移槽的總數量。
  • --yes:當列印出reshard執行計劃時,是否需要用戶輸入yes確認後再執行reshard。
  • --timeout:控制每次migrate操作的超時時間,默認為60000毫秒。
  • --pipeline:控制每次批量遷移鍵的數量,默認為10。

下面我們使用reshard命令遷移剩餘槽的數據。

上述命令執行完後reshard命令會提示我們輸入遷移槽的數量,我們暫時輸入4096。

當我們輸入完遷移槽的數量後,會提示我們輸入目標節點ID,我們輸入6385節點ID。

同樣,我們輸入完目標節點後,會提示我們輸入輸入源節點ID,也就是主節點ID,所以我們輸入6379、6380、6381三個主節點ID,並且已done命令結束。

當輸入完上述命令後,會列印出所有槽從源節點到目標節點的計劃,並讓我們輸入yes命令後才會繼續執行遷移工作。

輸入yes命令後在通過cluster nodes命令查看節點狀態。

下面我們還有最後一個步驟,就是當初我們雖然把6385和6386節點添加到了集群,並且已經將部分槽和數據遷移到了6385節點上,但該節點並沒有相應的從節點,所以下面的步驟就是將6386節點設置為6385節點的從節點。


上述內容就是Reids集群擴容的全部內容,如有不正確的地方,歡迎指出,謝謝。

Tags: