Mariadb之复制过滤器
mariadb的主从复制集群,默认情况下是把主库上的所有库进行复制,只要在主库上产生写操作,从库基于主库的二进制日志做重放,从而实现把主库的上的库表复制到从库;复制过滤器指的是我们仅复制一个或几个数据库相关的数据,而非所有;过滤器的作用就是来定义我们要复制那些库,那些表,这种定义过滤器的方式叫白名单机制;除了这种告诉服务器我们要复制的库表的,当然我们也可以告诉服务器我们不需要复制的库或表,或者需要忽略的库表的机制叫黑名单;在定义我们需要复制的库或者表,我们可以在主库上定义,也可以在从库上定义;不同的是在主库上定义,我们只能定义需要复制的那些库,忽略那些库;其实在主库上定义过滤器,就是告诉主库那些库的操作不记录二进制日志,当然在主库上不记录二进制,也就无法实现复制;这种在主库上定义那些库记录二进制,那些库不记录二进制,这种方式不是很推荐,原因在于如果主库宕机,做恢复操作时,我们不能利用二进制日志来把数据全部恢复;通常情况下我们在从库上定义复制那些库或者忽略那些库,这里需要注意一点,我们要么使用白名单机制,要么使用黑名单机制,不建议混合使用;
在主库上配置只允许某些库记录二进制日志,用binlog_do_db变量来指定,如下
提示:以上配置表示只记录和first_db库相关写操作的事件到二进制日志中;
重启主库,然后在主库上创建其他库,看看是否还会同步到从库呢?
提示:可以看到我们重启主库后,在主库上新建mydb库,在从库上并没有看到mydb从主库上复制过来;
在主库上操作first_db库,看看是否及时同步到从库呢?
提示:可以看到在主库上操作first_db中的表,在从库上是能够及时的看到;
配置在主库上忽略某些库,剩余所有库都记录二进制日志
提示:以上配置表示忽略first_db库上的二进制日志记录,剩余其他库都要做二进制日志记录;
测试:重启主库,在主库上操作first_db库,看看是否能够及时同步到从库?
提示:可以看到我们在主库上操作first_db库中的student表,没有被同步到从库的;
查看主库是binlog否记录了我们刚才的插入操作的语句
提示:在主库上看二进制日志,并没有记录我们刚才的插如语句相关的操作;
在主库上操作其他库看看是否能够被同步到从库呢?
提示:可以看到我们在主库上创建新的库表是能够及时同步到从库;
在从库上配置只复制first_db相关写操作事件
[root@docker-node03 ~]# mysql Welcome to the MariaDB monitor. Commands end with ; or \g. Your MariaDB connection id is 22 Server version: 5.5.65-MariaDB MariaDB Server Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. MariaDB [(none)]> show global variables like 'replicate%'; +----------------------------------+-----------+ | Variable_name | Value | +----------------------------------+-----------+ | replicate_annotate_row_events | OFF | | replicate_do_db | | | replicate_do_table | | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | | | replicate_wild_ignore_table | | +----------------------------------+-----------+ 8 rows in set (0.00 sec) MariaDB [(none)]> set @@global.replicate_do_db=first_db; ERROR 1198 (HY000): This operation cannot be performed with a running slave; run STOP SLAVE first MariaDB [(none)]> stop slave; Query OK, 0 rows affected (0.01 sec) MariaDB [(none)]> set @@global.replicate_do_db=first_db; Query OK, 0 rows affected (0.01 sec) MariaDB [(none)]> show global variables like 'replicate%'; +----------------------------------+-----------+ | Variable_name | Value | +----------------------------------+-----------+ | replicate_annotate_row_events | OFF | | replicate_do_db | first_db | | replicate_do_table | | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | | | replicate_wild_ignore_table | | +----------------------------------+-----------+ 8 rows in set (0.00 sec) MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec) MariaDB [(none)]> show slave status\G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 192.168.0.22 Master_User: rpluser Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000017 Read_Master_Log_Pos: 245 Relay_Log_File: relay-log.000035 Relay_Log_Pos: 529 Relay_Master_Log_File: mysql-bin.000017 Slave_IO_Running: Yes Slave_SQL_Running: Yes Replicate_Do_DB: first_db Replicate_Ignore_DB: Replicate_Do_Table: Replicate_Ignore_Table: Replicate_Wild_Do_Table: Replicate_Wild_Ignore_Table: Last_Errno: 0 Last_Error: Skip_Counter: 0 Exec_Master_Log_Pos: 245 Relay_Log_Space: 1101 Until_Condition: None Until_Log_File: Until_Log_Pos: 0 Master_SSL_Allowed: No Master_SSL_CA_File: Master_SSL_CA_Path: Master_SSL_Cert: Master_SSL_Cipher: Master_SSL_Key: Seconds_Behind_Master: 0 Master_SSL_Verify_Server_Cert: No Last_IO_Errno: 0 Last_IO_Error: Last_SQL_Errno: 0 Last_SQL_Error: Replicate_Ignore_Server_Ids: Master_Server_Id: 1 1 row in set (0.00 sec) MariaDB [(none)]>
提示:以上是在从节点上直接在线修改replicate_do_db变量来实现复制过滤功能;如果需要永久生效,那么把该配置写到配置文件中即可;以上配置表示只复制first_db相关写操作的事件;在线修改变量的方式,需要先停止slave,修改完成后在启动;从show slave status中,我们就能够清楚的replicate_do_db的值为first_db;
测试:在主库上对其他库操作,看看是否能够同步到从节点?
提示:可以看到我们在主库删除mydb2中的test表后,并没有同步到从库;
测试:操作first_db中的表,看看是否能同步?
提示:可以看到我们在first_db库中的student表中插入了一条新数据,在从库是能够及时的同步;
配置从节点只复制first_db库中的student表的操作相关事件
MariaDB [first_db]> stop slave; Query OK, 0 rows affected (0.01 sec) MariaDB [first_db]> show global variables like 'replicate%'; +----------------------------------+-----------+ | Variable_name | Value | +----------------------------------+-----------+ | replicate_annotate_row_events | OFF | | replicate_do_db | first_db | | replicate_do_table | | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | | | replicate_wild_ignore_table | | +----------------------------------+-----------+ 8 rows in set (0.00 sec) MariaDB [first_db]> set @@global.replicate_do_table=first_db.student; ERROR 1232 (42000): Incorrect argument type to variable 'replicate_do_table' MariaDB [first_db]> set @@global.replicate_do_table='first_db.student'; Query OK, 0 rows affected (0.00 sec) MariaDB [first_db]> show global variables like 'replicate%'; +----------------------------------+------------------+ | Variable_name | Value | +----------------------------------+------------------+ | replicate_annotate_row_events | OFF | | replicate_do_db | first_db | | replicate_do_table | first_db.student | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | | | replicate_wild_ignore_table | | +----------------------------------+------------------+ 8 rows in set (0.00 sec) MariaDB [first_db]> start slave; Query OK, 0 rows affected (0.00 sec) MariaDB [first_db]> show slave status\G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 192.168.0.22 Master_User: rpluser Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000017 Read_Master_Log_Pos: 1198 Relay_Log_File: relay-log.000050 Relay_Log_Pos: 529 Relay_Master_Log_File: mysql-bin.000017 Slave_IO_Running: Yes Slave_SQL_Running: Yes Replicate_Do_DB: first_db Replicate_Ignore_DB: Replicate_Do_Table: first_db.student Replicate_Ignore_Table: Replicate_Wild_Do_Table: Replicate_Wild_Ignore_Table: Last_Errno: 0 Last_Error: Skip_Counter: 0 Exec_Master_Log_Pos: 1198 Relay_Log_Space: 1101 Until_Condition: None Until_Log_File: Until_Log_Pos: 0 Master_SSL_Allowed: No Master_SSL_CA_File: Master_SSL_CA_Path: Master_SSL_Cert: Master_SSL_Cipher: Master_SSL_Key: Seconds_Behind_Master: 0 Master_SSL_Verify_Server_Cert: No Last_IO_Errno: 0 Last_IO_Error: Last_SQL_Errno: 0 Last_SQL_Error: Replicate_Ignore_Server_Ids: Master_Server_Id: 1 1 row in set (0.00 sec) MariaDB [first_db]>
提示:replicate_do_table这个变量在线修改时需要指明那个库中的那个表,并用引号引起来,否则会提示我们参数类型不正确;
测试:在主库的first_db库中新建一张表,看看是否能够被同步到从库?
提示:可以看到我们在主库的fisrt_db中新建一张test表,并没有同步到从库中去,这说明replicate_do_table的优先级要高于replicate_do_db;
在主库的first_db库中对student表做插入操作,看看是否能够被同步到从库?
提示:可以看到操作first_db中的student是能够及时同步到从库;
设置从节点只复制以student开头的表
MariaDB [first_db]> stop slave; Query OK, 0 rows affected (0.00 sec) MariaDB [first_db]> show global variables like 'replicate%'; +----------------------------------+------------------+ | Variable_name | Value | +----------------------------------+------------------+ | replicate_annotate_row_events | OFF | | replicate_do_db | first_db | | replicate_do_table | first_db.student | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | | | replicate_wild_ignore_table | | +----------------------------------+------------------+ 8 rows in set (0.00 sec) MariaDB [first_db]> set @@global.replicate_wild_do_table='first_db.student%'; Query OK, 0 rows affected (0.00 sec) MariaDB [first_db]> show global variables like 'replicate%'; +----------------------------------+-------------------+ | Variable_name | Value | +----------------------------------+-------------------+ | replicate_annotate_row_events | OFF | | replicate_do_db | first_db | | replicate_do_table | first_db.student | | replicate_events_marked_for_skip | replicate | | replicate_ignore_db | | | replicate_ignore_table | | | replicate_wild_do_table | first_db.student% | | replicate_wild_ignore_table | | +----------------------------------+-------------------+ 8 rows in set (0.01 sec) MariaDB [first_db]> start slave; Query OK, 0 rows affected (0.00 sec) MariaDB [first_db]> show slave status\G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 192.168.0.22 Master_User: rpluser Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000017 Read_Master_Log_Pos: 1198 Relay_Log_File: relay-log.000051 Relay_Log_Pos: 529 Relay_Master_Log_File: mysql-bin.000017 Slave_IO_Running: Yes Slave_SQL_Running: Yes Replicate_Do_DB: first_db Replicate_Ignore_DB: Replicate_Do_Table: first_db.student Replicate_Ignore_Table: Replicate_Wild_Do_Table: first_db.student% Replicate_Wild_Ignore_Table: Last_Errno: 0 Last_Error: Skip_Counter: 0 Exec_Master_Log_Pos: 1198 Relay_Log_Space: 1101 Until_Condition: None Until_Log_File: Until_Log_Pos: 0 Master_SSL_Allowed: No Master_SSL_CA_File: Master_SSL_CA_Path: Master_SSL_Cert: Master_SSL_Cipher: Master_SSL_Key: Seconds_Behind_Master: 0 Master_SSL_Verify_Server_Cert: No Last_IO_Errno: 0 Last_IO_Error: Last_SQL_Errno: 0 Last_SQL_Error: Replicate_Ignore_Server_Ids: Master_Server_Id: 1 1 row in set (0.00 sec) MariaDB [first_db]>
测试:在主库first_db库中操作非student开头的表,看看是否能够被复制到从库呢?
提示:可以看到在主库的first_db库中新增test2表,并没有被同步到从库;
测试:在主库新增student_test表,看看是否被同步到从库?
提示:可以看到在主库上新建student_test表被同步到从库中去了;
以上就是mariadb/mysql数据库主从复制中的复制过滤器的使用;以上演示部分使用白名单机制进行演示的,黑名单和白名单配置方式相同,只不过黑名单表示忽略指定的库或者表,其他剩下的库和表都要进行复制,而白名单是指定的库和表都要复制,其他剩余的库或表都不被复制;在从节点使用黑名单机制忽略库使用replicate_ignore_db变量指定;忽略某些表使用replicate_ignore_table变量来指定;忽略以某类表使用replicate_ignore_wild_do_table指定;使用方式和上面白名单机制的使用方式一样;如果需要永久生效,请把以上变量写到配置文件中重启服务即可生效;