微服务部署—Docker Compose搭建高可用双机热备MySQL数据库
一、MySQL 的多种数据备份机制
mysqldump:这是 MySQL 自带的备份工具,通过导出 SQL 语句来备份数据库。它可以备份整个数据库、特定表或特定数据。使用命令行执行 mysqldump 命令可以生成 SQL 文件,然后可以使用该文件还原备份数据。备份命令:
# 单个数据库
mysqldump -h hostname -u username -p dbname > backup.sql
1. 多个数据库
mysqldump -h hostname -u username -p --databases dbname1 dbname2 > backup.sql
MySQL Enterprise Backup:这是 MySQL 官方提供的高级备份工具【商用收费工具】,可用于备份大型数据库。它支持增量备份和并行备份,可以在运行时备份数据库,减少备份期间的停机时间。它以block级别进行并行备份,性能大大优于逻辑备份工具如mysqldump。
mysqlbackup --host=hostname --user=username --password=password --backup-dir=/path/to/backupdir backup
MySQL Workbench:MySQL Workbench是一种图形化MySQL管理工具,可以进行逻辑备份和还原,支持导出SQL脚本、CSV文件和XML文件等。
物理备份:这种备份方法直接复制数据库文件,包括数据文件、日志文件等。可以使用文件系统级别的工具,如 rsync 或者文件系统快照功能来备份。
复制(主从复制 / 多主复制):
MySQL主从复制用于将一个MySQL服务器(称为主服务器)上的数据变更同步到其他MySQL服 务器(称为从服务器)。主从复制提供了数据备份、读写分离和负载均衡等功能,以提高系统的可用性和性能。
MySQL多主复制允许在多个数据库实例之间进行双向数据同步。它的工作原理是每个数据库实例都可以充当主服务器和从服务器,可以同时接收和发送数据变更。
第三方备份工具:还有一些第三方工具可用于备份 MySQL 数据库,例如 Percona XtraBackup、MariaDB Backup 等。这些工具提供了更多高级特性,如并行备份、压缩备份等。
MySQL 提供的多种数据备份机制各有优缺点和适应场景,复制(主从复制 / 多主复制)适合我们的应用场景,多主复制比主从复制会更为复杂一些,需要考虑数据冲突等问题。在实际使用过程中,主主复制存在很多数据冲突的问题需要解决,所以这里我们选择使用主从备份机制。
二、MySQL 主从复制原理
MySQL 主从复制是一种基于日志的复制机制,用于将主服务器(Master)上的数据实时复制到一个或多个从服务器(Slave)。主从复制的原理如下:
- 主服务器将所有修改操作记录在二进制日志(Binary Log)中。这些修改可以是插入、更新或删除数据的操作。
- 从服务器连接到主服务器,并发送一个请求,请求成为主服务器的从服务器。主服务器收到请求后,将记录从服务器的信息,并开始与从服务器建立复制连接。
- 主服务器将二进制日志中的内容发送给从服务器。从服务器接收并执行这些日志中的操作,将数据修改操作反映到自己的数据库上。
- 从服务器还会定期向主服务器发送心跳信息以维持连接。如果主服务器长时间没有收到从服务器的心跳信息,就认为从服务器宕机,不再向其发送日志。
- 如果主服务器发生故障,导致无法提供服务,可以将一个从服务器提升为新的主服务器,以继续提供服务。此时,其他从服务器将切换到新的主服务器上进行复制。
通过主从复制,可以实现数据的实时复制和分布式读取,提高数据库的可用性和读取性能。此外,主从复制还可以用于备份数据,当主服务器发生故障时,可以快速切换到从服务器,减少服务停机时间。需要注意的是,主从复制是异步的,从服务器的数据可能稍有延迟。而且主从复制只复制数据修改操作,不复制表结构的变更。如果需要同步表结构的变更,可以使用主从复制搭配其他工具,如 GTID(Global Transaction Identifier)或者基于触发器的解决方案。
三、MySQL 主主复制原理
MySQL主主复制是一种数据同步和高可用性解决方案,它能够保持多个MySQL服务器之间的数据一致性。主主复制的原理如下:
- 配置双向复制:在两台MySQL服务器上分别配置主从复制,使每台服务器都可以同时充当主服务器和从服务器。
- 生成二进制日志:当有数据更新操作(如插入、更新、删除)时,MySQL服务器会将这些操作记录在二进制日志中。
- 传递二进制日志:每台服务器将自己的二进制日志传递给另一台服务器。这可以通过网络连接实现,通常使用基于TCP/IP的复制协议。
- 应用二进制日志:每台服务器接收到对方的二进制日志后,会将这些日志应用到自己的数据库中,从而使两台服务器的数据保持一致。
- 处理冲突:在主主复制中,由于两台服务器都可以接收写操作,可能会出现冲突。为了处理冲突,MySQL提供了自动事务回滚和主键冲突检测等机制。
三、使用Docker Compose安装MySQL 主从服务器
1、环境准备
首先准备至少2台Linux服务器,一台作为MySQL主服务器,一台或者多台作为MySQL从服务器。我们这里准备两台服务器分别为:
- 192.168.0.210 (MySQL主服务器)
- 192.168.0.195 (MySQL从服务器)
2、准备MySQL文件存放目录
- 准备数据库存储目录,在两台主从服务器上分别执行一下命令。
mkdir -p /opt/container/mysql/data /opt/container/mysql/config /opt/container/mysql/slave/mysql-files
chmod -R 777 /opt/container/mysql/data /opt/container/mysql/config /opt/container/mysql/slave/mysql-files
/opt/container/mysql/data 用于存放MySQL数据文件。/opt/container/mysql/config 用于存放MySQL配置文件。/opt/container/mysql/slave/mysql-files 用于存放MySQL数据导入/导出的数据文件存放目录。
3、MySQL主、从服务器docker-compose-mysql.yml文件
version: '3'
services:
mysql:
environment:
## root账号的密码
MYSQL_ROOT_PASSWORD: root密码
TZ: Asia/Shanghai
## 新建mysql账号
MYSQL_USER: 'mysql_user'
MYSQL_PASSWORD: mysql_user密码
MYSQL_DATABASE: 'mysql_db'
image: "docker.io/mysql:latest"
container_name: mysql
restart: always
## 映射挂载
volumes:
## 数据目录,要确保先创建好
- "/opt/container/mysql/data:/var/lib/mysql"
- "/opt/container/mysql/config/my.cnf:/etc/mysql/my.cnf"
- "/opt/container/mysql/slave/mysql-files:/var/lib/mysql-files"
- "/etc/localtime:/etc/localtime"
- "/usr/share/zoneinfo/Asia/Shanghai:/etc/timezone"
## 初始化的脚本,初始化我们存放的init.sql文件
- "./mysql:/docker-entrypoint-initdb.d/"
ports:
- "3306:3306"
command:
--max_connections=1000
--character-set-server=utf8mb4
--collation-server=utf8mb4_general_ci
--default-authentication-plugin=mysql_native_password
4、在MySQL主服务器上新增配置文件
在/opt/container/mysql/config目录下新增my.cnf文件, 配置文件内容: