使用binlog2sql工具來恢復資料庫
- 2020 年 4 月 24 日
- 筆記
- ----260 MySQL備份與恢復, --200 MySQL
(一)binlog2sql介紹
binlog2sql是中國MySQL大佬danfengcao開發,許多MySQL愛好者參與改進的一款MySQL binlog解析軟體。根據不同選項,可以得到原始SQL、回滾SQL、去除主鍵的SQL等。
github地址為://github.com/danfengcao/binlog2sql
該工具主要用於:
- 數據快速回滾(閃回);
- 從binlog生成標準SQL;
適用MySQL版本:MySQL5.6 、MySQL5.7
(二)安裝binlog2sql
# 安裝git shell> yum install -y git # 安裝pip工具 shell> yum install -y epel-release shell> yum install -y python-pip # 安裝binlog2sql shell> git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql shell> pip install -r requirements.txt
(三)使用binlog2sql
要使用binlog2sql,MySQL伺服器需要設置以下參數:
[mysqld] server_id = 1 log_bin = /var/log/mysql/mysql-bin.log max_binlog_size = 100M binlog_format = row binlog_row_image = full
binlog2sql在使用時需要連接到shuju庫上,連接用戶的許可權為:
select,spuer/replication client,replication slave -- 建議授權: grant select,replication slave,replication client on *.* to user;
binlog2sql的語法為:
[root@masterdb binlog2sql]# pwd /root/binlog2sql/binlog2sql [root@masterdb binlog2sql]# python binlog2sql.py --help usage: binlog2sql.py [-h HOST] [-u USER] [-p [PASSWORD [PASSWORD ...]]] [-P PORT] [--start-file START_FILE] [--start-position START_POS] [--stop-file END_FILE] [--stop-position END_POS] [--start-datetime START_TIME] [--stop-datetime STOP_TIME] [--stop-never] [--help] [-d [DATABASES [DATABASES ...]]] [-t [TABLES [TABLES ...]]] [--only-dml] [--sql-type [SQL_TYPE [SQL_TYPE ...]]] [-K] [-B] [--back-interval BACK_INTERVAL]
語法解析:
MySQL鏈接配置參數
- -h host; –p password; –u user,-P port
解析模式參數:
- –stop-never : 持續解析binlog,同步至執行命令時最新的binlog位置,默認false。
- -K , –no-primary-key : 對insert語句去除主鍵,默認false。
- -B , –flashback : 生成回滾SQL,可解析大文件,不受記憶體限制,默認false。與stop-never或no-primary-key不能同時添加。
- –back-interval :在-B模式下,每列印1000條回滾SQL,SLEEP多少秒,默認為1。
範圍控制參數:
- –start-file :起始解析文件,只需文件名,無需全路徑。必需參數。
- –stop-file / –end-file : 終止解析文件,默認為start-file同一個文件,若解析模式為stop-never,則該參數失效。
- –start-position / –start-pos : 起始解析位置,默認start-file文件起始位置。
- –stop-position / –stop-pos : 終止解析位置,默認stop-file終點位置。
- –start-datetime :起始解析時間,格式為』%Y-%m-%d %H:%M:%S』。
- –stop-datetime :終止解析時間,格式為』%Y-%m-%d %H:%M:%S』
對象過濾參數:
- -d , –databases : 只解析目標DB的sql,多個資料庫用空格隔開,如:-d db1 db2。
- -t , –tables : 只解析目標表的sql,多張表用空格隔開,如:-t table1 table2。
- –only-dml :只解析DML,忽略DDL。
- –sql-type : 只解析指定類型,支援INSERT,UPDATE,DELETE。多個類型用空格隔開,如–sql-type INSERT UPDATE,默認全解析。
(四)binlog2sql測試
測試目的:本次實驗模擬誤刪除數據,通過使用binlog2sql將數據找回來。
STEP1:構造測試數據
--構造測試表 create table test01 ( id int primary key, name varchar(30) not null, birthday date not null ); -插入3條數據 insert into test01 values(1,'小明','1993-01-02'); insert into test01 values(2,'小華','1994-08-15'); insert into test01 values(3,'小麗','1995-07-12'); mysql> select * from test01; +----+--------+------------+ | id | name | birthday | +----+--------+------------+ | 1 | 小明 | 1993-01-02 | | 2 | 小華 | 1994-08-15 | | 3 | 小麗 | 1995-07-12 | +----+--------+------------+ 3 rows in set (0.00 sec)
STEP2:模擬誤刪除數據
mysql> delete from test01; Query OK, 3 rows affected (0.00 sec)
STEP3:確認最後的日誌
mysql> show master status; +-------------------+----------+--------------+------------------+-------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set | +-------------------+----------+--------------+------------------+-------------------+ | master-bin.000001 | 1600 | | | | +-------------------+----------+--------------+------------------+-------------------+ 1 row in set (0.00 sec)
STEP4:解析出標準SQL,用於定位回滾的開始和結束位置
[root@masterdb binlog2sql]# python binlog2sql.py -h127.0.0.1 -P3306 -uroot -p123456 -dlijiamandb -t test01 --sql-type DELETE --start-file='master-bin.000001' USE lijiamandb; create table test01 ( id int primary key, name varchar(30) not null, birthday date not null ); DELETE FROM `lijiamandb`.`test01` WHERE `birthday`='1993-01-02' AND `id`=1 AND `name`='小明' LIMIT 1; #start 1287 end 1569 time 2020-04-24 13:40:26 DELETE FROM `lijiamandb`.`test01` WHERE `birthday`='1994-08-15' AND `id`=2 AND `name`='小華' LIMIT 1; #start 1287 end 1569 time 2020-04-24 13:40:26 DELETE FROM `lijiamandb`.`test01` WHERE `birthday`='1995-07-12' AND `id`=3 AND `name`='小麗' LIMIT 1; #start 1287 end 1569 time 2020-04-24 13:40:26
值得注意的是,雖然我指定了只解析DELETE語句,但還是把DDL給解析出來了。
STEP5:解析出回滾SQL
[root@masterdb binlog2sql]# python binlog2sql.py -h127.0.0.1 -P3306 -uroot -p123456 --flashback -dlijiamandb -t test01 --sql-type DELETE --start-file='master-bin.000001' INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1995-07-12', 3, '小麗'); #start 1287 end 1569 time 2020-04-24 13:40:26 INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1994-08-15', 2, '小華'); #start 1287 end 1569 time 2020-04-24 13:40:26 INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1993-01-02', 1, '小明'); #start 1287 end 1569 time 2020-04-24 13:40:26
STEP6:還原到資料庫
[root@masterdb binlog2sql]# mysql -uroot -p123456 lijiamandb mysql> INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1995-07-12', 3, '小麗'); #start 1287 end 1569 time 2020-04-24 13:40:26 69 time 2020-04-24 13:40:26 INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1993-01-02', 1, '小明'); #start 1287 end 1569 time 2020-04-24 13:40:26Query OK, 1 row affected (0.00 sec) mysql> INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1994-08-15', 2, '小華'); #start 1287 end 1569 time 2020-04-24 13:40:26 Query OK, 1 row affected (0.01 sec) mysql> INSERT INTO `lijiamandb`.`test01`(`birthday`, `id`, `name`) VALUES ('1993-01-02', 1, '小明'); #start 1287 end 1569 time 2020-04-24 13:40:26 Query OK, 1 row affected (0.00 sec) mysql> select * from test01; +----+--------+------------+ | id | name | birthday | +----+--------+------------+ | 1 | 小明 | 1993-01-02 | | 2 | 小華 | 1994-08-15 | | 3 | 小麗 | 1995-07-12 | +----+--------+------------+ 3 rows in set (0.00 sec)
(五)總結
使用binlog2sql最大的好處就是解析出來的SQL語句非常直觀,並且在注釋中還包含了時間,這對於我們去查找故障發生點非常實用。想一想之前用過的mysqlbinlog工具,解析出來的結果中含有大量無關的資訊,為我們排查問題增加了難度,而binlog2sql解析出來的SQL非常乾淨,便於我們排查問題,恢複數據。