多服務器使用Docker設置一主一從三哨兵redis(完整)

本來應該續之前那篇博客Docker配置redis哨兵模式——多服務器·上寫一個下篇的,但是忽然意識到應該將必要的環境打包為一個基礎鏡像,在此基礎上建立與redis有關的鏡像,這樣既能夠快速打包,又能夠高度復用代碼。

所以本篇實際上相當於一個完整的多服務器使用Docker來部署Redis哨兵模式的過程。

目錄

  1. 服務器條件
  2. 安裝Docker
  3. 製備基礎鏡像
  4. 配置redis主從節點
  5. 哨兵節點

服務器條件

因為我的服務器又是新租(日租)的,所以要重新恢復一下。

三台服務器(因為需要至少三個哨兵保證安全性)

  • 服務器1:123.57.234.161
  • 服務器2:123.56.85.138
  • 服務器3:8.131.68.191
  • 端口號7000、17000已在安全組上放行(阿里雲)
  • 環境:centos8.0

安裝Docker

逐行執行以下指令:

# 1. 更新編譯環境
yum -y install gcc

# 2. 同上
yum -y install gcc-c++

# 3. 安裝docker
# 3.1 卸載舊版本
yum remove docker \
                  docker-client \
                  docker-client-latest \
                  docker-common \
                  docker-latest \
                  docker-latest-logrotate \
                  docker-logrotate \
                  docker-engine
# 3.2 安裝需要的安裝包
yum install -y yum-utils
# 3.3設置鏡像的倉庫,推薦使用國內的鏡像,比較快
yum-config-manager \
    --add-repo \
    //mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
# 3.4 更新yum軟件包索引,功能是將軟件包緩存在本地一份
yum makecache 
# 3.5 安裝docker相關的 docker-ce 社區版
yum install -y //mirrors.aliyun.com/docker-ce/linux/centos/7/x86_64/edge/Packages/containerd.io-1.2.13-3.1.el7.x86_64.rpm
# 3.6 安裝
yum install docker-ce docker-ce-cli containerd.io
# 3.7 啟動docker
systemctl start docker
# 3.8 設置為後台啟動
systemctl enable docker 
# 3.9 使用docker version查看是否按照成功
docker version
# 3.10 測試(可以不做)
docker run hello-world
# 3.11 卸載刪除(僅供參考,本次不做)
yum remove docker-ce docker-ce-cli containerd.io
rm -rf /var/lib/docker

# 4. 配置加速器
sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'
{
  "registry-mirrors": ["//qdxc3615.mirror.aliyuncs.com"]
}
EOF
sudo systemctl daemon-reload
sudo systemctl restart docker

製備基礎鏡像

docker倉庫中的centos鏡像非常簡單,缺少一些功能,不方便我們安裝和調試,所以我們把與redis本身無關但有助於我們使用的部分打包成一個常用的基礎鏡像。

主要安裝的是vim編輯器和procps(查看容器內運行的進程)所以創建一個目錄為basecentos,在其中創建並編寫Dockerfile如下:

# 創建Dockerfile
vi Dockerfile

# 以下所有代碼為Dockerfile的內容

FROM redis
MAINTAINER blue<[email protected]>
# 安裝一些環境
RUN apt-get update
RUN apt-get install -y vim
RUN apt-get install procps --assume-yes

保存Dockerf後可以創建名為base-centos的鏡像,以後就可以直接從這個鏡像生成新的容器,不需要一直下載。步驟如下:

docker build -t base-centos .

# 查看現有的鏡像:
[root@docker001 baseimage]# docker images
REPOSITORY             TAG                 IMAGE ID            CREATED             SIZE
base-centos            latest              646e329bb8db        2 minutes ago       157MB

# 使用docker login 登錄自己的docker賬號

將它push到我們的dockerhub上,再在另外兩個服務器上pull下來,現在三個服務器上都有這個鏡像啦,我給他起的名字叫lanblue/mygoodcentos。

配置redis主從節點

我們使用的服務器是服務器1和服務器2。

TIPS: 對於xshell可以使用右鍵選擇發送鍵輸入到所有會話,這樣就不需要配置兩遍了。或者使用scp語句將配置好的文件共享給其他服務器:

# scp local_file remote_username@remote_ip:remote_folder
scp redis.conf [email protected]:/blue/redis02
  1. 首先創建文件夾,注意不要放在home路徑下,否則容易因為權限問題是容器運行失敗。我創建的目錄為/blue/redis01,指令比較簡單:
cd /
mkdir blue && cd blue
mkdir redis01 && cd redis01
  1. 創建Dockerfile,內容如下:
FROM lanblue/mygoodcentos
MAINTAINER blue<[email protected]>

COPY redis.conf /usr/local/etc/redis/redis.conf

VOLUME ["/data1"]

WORKDIR /etc/redis

# 開放端口7000
EXPOSE 7000

# 使用配置文件啟動
CMD [ "redis-server", "/usr/local/etc/redis/redis.conf"]

  1. 從官網上下載一個redis.conf放在redis01目錄下,redis.conf則是redis的一些配置,這個和之前單機版的redis一主一從三哨兵的配置基本相同,做如下修改:
# 注釋掉bind 127.0.0.1 
# bind 127.0.0.1

port 7000

# 這裡如果是yes會影響使用配置文件啟動
daemonize no

pidfile /var/run/redis_7000.pid

# 需要設置以下兩處密碼,密碼要一致
requirepass testmaster123
masterauth testmaster123

# 修改保護模式,如果是yes會導致外部服務器無法訪問
protected-mode no

# 對於服務器2,還需要加上一句,表示是服務器1的從服務器 
# slaveof 主.機.I.P 端口
slaveof 123.57.234.161 7000
  1. 創建鏡像和運行容器:
# 創建鏡像
docker build -t myredis .
# 啟動容器
docker run -d -p 7000:7000 --name redis-test myredis
# 進入容器內部
docker exec -it redis-test /bin/bash
# 查看容器內進程
ps -ef

  1. 測試:

root@9692ae0ac72c:/etc/redis# redis-cli -p 7000
127.0.0.1:7000> auth testmaster123
OK
127.0.0.1:7000> info replication

哨兵節點

在/blue下創建文件夾sentinel01。其內存放Dockerfile和sentinel.conf文件。

  1. Dockerfile文件內容如下:
FROM lanblue/mygoodcentos
MAINTAINER blue<[email protected]>

COPY sentinel.conf /usr/local/etc/redis/sentinel.conf

# VOLUME ["/data2"]

# 開放端口17000
EXPOSE 17000

# 使用配置文件啟動
CMD [ "redis-sentinel", "/usr/local/etc/redis/sentinel.conf"]

  1. sentinel.conf文件如下,注意不能在配置文件里設置daemonize yes,會導致我們的指定配置失敗:
port 17000
sentinel monitor mymaster 123.57.234.161 7000 2
sentinel auth-pass mymaster testmaster123

sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000
sentinel deny-scripts-reconfig yes
# 設置為no才會被其他主機發現
protected-mode no

  1. 創建鏡像,啟動容器,進入容器內部:
# 創建鏡像
docker build -t mysentinel .
# 啟動容器
docker run -d -p 17000:17000 --name sentinel-test mysentinel
# 進入容器內部
docker exec -it sentinel-test /bin/bash
# 訪問17000端口
redis-cli -p 17000
# 查看哨兵情況
# 以下是端口返回的信息
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=123.57.234.161:7000,slaves=1,sentinels=4

# 哨兵節點會自動發現其他哨兵,如果某些哨兵線程已經失效了,可以用下列語句更新
127.0.0.1:17000> SENTINEL RESET *
(integer) 1


  1. 主從切換測試
    使用docker stop 語句可以關閉某個運行的容器。關閉主節點所在的容器後可以觀察到從節點變成master。切換基本與之前單機版本相同。