MySQL 读写分离

  Strong         2,135次浏览         1次留言
MySQL 

MySQL读写分离

1、MySQL读写分离概述

当今MySQL使用相当广泛，随着用户的增多以及数据量的增大，高并发随之而来；然而我们有很多办法可以缓解数据库的压力，分布式数据库集群、负载均衡、读写分离、增加缓存服务器等等。采用读写分离技术缓解数据库的压力是一种不错的方式。

1.1 MySQL读写分离的好处

  • 物理服务器增加，机器处理能力提升，拿硬件换性能。
  • 主从只负责各自的读和写，极大程度缓解X锁和S锁争用。
  • slave可以配置myiasm引擎，提升查询性能以及节约系统开销。
  • slave可以单独设置一些参数来提升其读的性能。
  • master的写是并发，slave通过主库发送来的binlog同步数据。
  • 增加冗余，提高可用性。

1.2 读写分离实现方式

  • 代码封装
    在代码层面抽出一个中间层，由中间层来实现读写分离和数据库连接。通过代理类代码，对外暴露正常的读写接口，里面封装了逻辑，将读操作指向从库的数据源，写操作指向主库的数据源。

    • 优点：简单（开发写代码实现），并且可以根据业务定制化变化，随心所欲。
    • 缺点：如果数据库宕机了，发生主从切换了之后，就得修改配置重启。如果系统是多语言的话，需要为每个语言都实现一个中间层代码，重复开发。

  • 中间件
    一般而言是独立部署的系统，客户端与这个中间件的交互是通过 SQL 协议的。所以在客户端看来连接的就是一个数据库，通过SQL协议交互也可以屏蔽多语言的差异。

    • 缺点：就是整体架构多了一个系统需要维护，并且可能成为性能瓶颈，毕竟交互都需要经过它中转。

常见的开源数据库中间件有：官方的MySQL-Proxy、360的Atlas、Mycat、ProxySQL等。

1.3 MySQL读写分离原理

读写分离的基本原理是让主数据库处理事务性的增、删、改操作（INSERT、DELETE、UPDATE），而从数据库处理SELECT查询操作。MySQL主从复制将事务性的增、删、改操作同步到集群中的从数据库。

MySQL读写分离架构图
MySQL读写分离.jpg

在应用和数据库之间增加代理层（中间件），代理层接收应用对数据库的请求，根据不同请求类型转发到不同的实例，在实现读写分离的同时可以实现负载均衡。

2、MySQLProxy实现读写分离

2.1 MySQLProxy简介

MySQL Proxy是MySQL官方提供的数据库代理工具；MySQL Proxy实际上是在客户端请求与MySQLServer之间建立了一个连接池，所有客户端请求都是发向MySQL Proxy，然后经由MySQL Proxy进行相应的分析，判断出是读操作还是写操作，分发至对应的MySQLServer上；对于多节点Slave集群，可以实现负载均衡的效果。

2.2 MySQLProxy读写分离配置

实验拓扑图
mysqlproxy.jpg

实验环境：

主机IP地址
Master192.168.52.128
Slave192.168.52.129
Proxy192.168.52.130
  • 配置MySQL主从复制
//主服务器和从服务器安装并初始化mariadb
[root@master ~]# dnf -y install mariadb mariadb-server
[root@master ~]# systemctl enable mariadb
[root@master ~]# systemctl start mariadb
[root@master ~]# mysql_secure_installation 

[root@slave ~]# dnf -y install mariadb mariadb-server
[root@slave ~]# systemctl enable mariadb
[root@slave ~]# systemctl start mariadb
[root@slave ~]# mysql_secure_installation 

//主服务器关闭防火墙和selinux
[root@master ~]# systemctl stop firewalld.service 
[root@master ~]# systemctl disable firewalld.service 
Removed /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.

[root@master ~]# sed -i s/SELINUX=enforing/SELINUX=disabled/g /etc/selinux/config 
[root@master ~]# setenforce 0

//从服务器关闭防火墙和selinux
[root@slave ~]# systemctl stop firewalld.service 
[root@slave ~]# systemctl disable firewalld.service 
Removed /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.

[root@slave ~]# sed -i s/SELINUX=enforing/SELINUX=disabled/g /etc/selinux/config 
[root@slave ~]# setenforce 0

//在主服务器上配置主从复制，开启二进制日志，设置服务id
[root@master ~]# vim /etc/my.cnf.d/mariadb-server.cnf
[mysqld]
log_bin=mysql-bin			//开启二进制日志
server_id=1				//服务id号，不可重复,为0则拒绝从服务器连接
innodb_flush_log_at_trx_commit=1	//每个事务提交时立即写入binlog
sync_binlog=1				//事务提交后立刻刷新binlog

[root@master ~]# systemctl restart mariadb.service 

//在主服务器授权一个数据库用户用于复制，创建完成后在从服务器测试登录
MariaDB [(none)]> GRANT REPLICATION SLAVE ON *.* TO 'zcfz'@'%' IDENTIFIED BY 'hzz123!';
Query OK, 0 rows affected (0.001 sec)

MariaDB [(none)]> FLUSH PRIVILEGES;
Query OK, 0 rows affected (0.001 sec)

//在从服务器配置主从复制，设置服务id
[root@slave ~]# vim /etc/my.cnf.d/mariadb-server.cnf
[mysqld]
server_id=2			//服务id号，不可重复,为0则拒绝从服务器连接
read_only=1			//设置从服务器普通用户只读，不会影响主从复制

[root@slave ~]# systemctl restart mariadb.service 

//登录到从服务器数据库，在数据库中配置主服务器信息
MariaDB [(none)]> CHANGE MASTER TO MASTER_HOST='192.168.52.128',MASTER_PORT=3306,MASTER_USER='zcfz',MASTER_PASSWORD='hzz123!';
Query OK, 0 rows affected (0.002 sec)

MariaDB [(none)]> START SLAVE;
Query OK, 0 rows affected (0.001 sec)

//查看从服务器主从复制是否开启
MariaDB [(none)]> SHOW SLAVE STATUS \G 
*************************** 1. row ***************************
                Slave_IO_State: Waiting for master to send event
                   Master_Host: 192.168.52.128
                   Master_User: zcfz
                   Master_Port: 3306
                 Connect_Retry: 60
               Master_Log_File: mysql-bin.000002
           Read_Master_Log_Pos: 638
                Relay_Log_File: mariadb-relay-bin.000003
                 Relay_Log_Pos: 937
         Relay_Master_Log_File: mysql-bin.000002
              Slave_IO_Running: Yes
             Slave_SQL_Running: Yes
.....省略.....
  • MySQL Proxy实现读写分离
//proxy节点关闭防火墙和selinux
[root@proxy ~]# systemctl stop firewalld.service 
[root@proxy ~]# systemctl disable firewalld.service 
Removed /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.

[root@proxy ~]# sed -i s/SELINUX=enforing/SELINUX=disabled/g /etc/selinux/config 
[root@proxy ~]# setenforce 0

//在proxy节点下载MySQL-Proxy工具
[root@proxy ~]# wget https://cdn.mysql.com/archives/mysql-proxy/mysql-proxy-0.8.5-linux-el6-x86-64bit.tar.gz

//解压MySQL-Proxy工具
[root@proxy ~]# tar -xvf mysql-proxy-0.8.5-linux-el6-x86-64bit.tar.gz
[root@proxy ~]# mv mysql-proxy-0.8.5-linux-el6-x86-64bit /usr/local/mysql-proxy

//设置MySQL-Proxy工具环境变量
[root@proxy ~]# echo 'export PATH=$PATH:/usr/local/mysql-proxy/bin' >> ~/.bash_profile 
[root@proxy ~]# source ~/.bash_profile 

//配置MySQL-Proxy配置文件设置读写分离
[root@proxy ~]# mkdir /usr/local/mysql-proxy/conf
[root@proxy ~]# mkdir /usr/local/mysql-proxy/logs

[root@proxy ~]# vim /usr/local/mysql-proxy/conf/mysql-proxy.conf
[mysql-proxy]
plugins=proxy						//proxy插件
user=root 						//以root身份运行mysql-proxy
proxy-address=192.168.52.130:3306			//监听本机中IP地址和端口，默认端口4040。
proxy-backend-addresses=192.168.52.128:3306		//进行写的数据库master
proxy-read-only-backend-addresses=192.168.52.129:3306	//进行读的数据库slave
proxy-lua-script=/usr/local/mysql-proxy/share/doc/mysql-proxy/rw-splitting.lua	//指定读写分离脚本文件
pid-file=/usr/local/mysql-proxy/logs/mysql-proxy.pid	//pid文件位置
log-file=/usr/local/mysql-proxy/logs/mysql-proxy.log    //生成日志文件
log-level=debug						//日志等级为debug
keepalive=true     					//心跳检测，崩溃时，尝试重启
daemon=true        					//守护进程
:wq！

//修改配置文件权限，防止信息泄露，如果不修改启动报错
[root@proxy ~]# chmod 660 /usr/local/mysql-proxy/conf/mysql-proxy.conf 

//设置读写分离连接数量
[root@proxy ~]# vim /usr/local/mysql-proxy/share/doc/mysql-proxy/rw-splitting.lua
if not proxy.global.config.rwsplit then
        proxy.global.config.rwsplit = {
                min_idle_connections = 1,	//默认超过4个连接数时，才开始读写分离，改为1
                max_idle_connections = 8,

                is_debug = false
        }
end

//开启MySQL-Porxy实现读写分离
[root@proxy ~]# mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/mysql-proxy.conf

//在主服务器和从服务器上授权一个用户进行登录测试，主服务器和从服务器用户需一致
//只需在主服务器授权一个用户，主从复制会将此用户同步至从服务器
MariaDB [(none)]> GRANT ALL ON *.* TO 'hzz'@'%' IDENTIFIED BY 'hzz123!';
Query OK, 0 rows affected (0.001 sec)

MariaDB [(none)]> FLUSH PRIVILEGES;
Query OK, 0 rows affected (0.001 sec)

//测试，在测试端上登录到proxy代理
[root@test ~]# mysql -uhzz -phzz123! -h192.168.52.130

//登录到proxy代理后,创建一个数据库和表
MariaDB [(none)]> create database hzz;
Query OK, 1 row affected (0.001 sec)

MariaDB [(none)]> show databases;
+--------------------+
| Database           |
+--------------------+
| hzz                |
| information_schema |
| mysql              |
| performance_schema |
+--------------------+
4 rows in set (0.001 sec)

MariaDB [(none)]> create table hzz.hzztable(id int(7));
Query OK, 0 rows affected (0.004 sec)

//然后在从服务器上停止主从复制
MariaDB [(none)]> stop slave;
Query OK, 0 rows affected (0.001 sec)

//回到测试端，登录到proxy代理，插入一条数据，发现select查看不到，说明读写分离成功
MariaDB [(none)]> insert into hzz.hzztable(id)value(1);
Query OK, 1 row affected (0.002 sec)

MariaDB [(none)]> select * from hzz.hzztable;
0 row in set (0.001 sec)

3、ProxySQL实现读写分离

3.1 ProxySQL简介

ProxySQL是灵活强大的MySQL代理层, 是一个能实实在在用在生产环境的MySQL中间件，可以实现读写分离，支持Query路由功能，支持动态指定某个SQL进行 cache，支持动态加载配置、故障切换和一些SQL的过滤功能。还有一些同类产品比如DBproxy、MyCAT、OneProxy等。但经过反复对比和测试之后，还是觉得ProxySQL是一款性能不谙，靠谱稳定的MySQL中间件产品！

官方站点：https://proxysql.com
官方github：https://github.com/sysown/proxysql
官方手册：https://proxysql.com/documentation

3.2 ProxySQL架构

ProxySQL架构图
proxy SQL.png

ProxySQL启动后，将监听两个端口：

  • admin管理端口，默认端口为6032。该端口用于查看、配置ProxySQL
  • 服务端口，默认端口为6033，这个接口类似于MySQL的3306端口

ProxySQL多层管理配置设计 (有三层配置)：

  • runtime：运行中正在使用的配置
  • memory：提供用户动态修改配置
  • disk：持久层，将修改的配置保存到磁盘SQLite表中（即：proxysql.db）
  • config：配置文件（即：proxysql.cnf），和disk一样处于持久层，一般不使用它，仅仅在第一次开启ProxySQL时加载

ProxySQL配置系统分为三层的目的：

  • 自动更新
  • 尽可能的不重启proxysql就可以修改配置
  • 错误配置时方便回滚

注意事项：

  • ProxySQL每一个配置项在三层中都存在，但是这三层是互相独立的，也就是说proxysql可以同时拥有三份配置，每层都是独立的，可能三份配置都不一样，也可能三份都一样
  • RUNTIME层代表ProxySQL当前生效的正在使用的配置，无法直接修改这里的配置，必须要从下一层"load"进来
  • MEMORY这一层上面连接RUNTIME层，下面连接持久化层，在这层可以正常操作 ProxySQL配置，随便修改，不会影响生产环境。修改一个配置一般都是先在 MEMORY层完成，然后确认正常之后再加载到RUNTIME和持久化到磁盘上
  • DISK和CONFIG FILE层持久化配置信息，重启后内存中的配置信息会丢失，所以需要将配置信息保留在磁盘中，重启时可以从磁盘快速加载回来。

3.3 ProxySQL配置文件介绍

//第一次启动前修改CONFIG FILE配置文件
[root@proxysql ~]# vim /etc/proxysql.cnf
datadir="/var/lib/proxysql"			#数据目录
errorlog="/var/lib/proxysql/proxysql.log"

admin_variables=
{
        admin_credentials="admin:admin"		#管理员用户名与密码
        mysql_ifaces="0.0.0.0:6032"		#管理端口，用来连接proxysql的管理数据库
}

mysql_variables=
{
        threads=4				#指定转发端口开启的线程数量
        max_connections=2048
        default_query_delay=0
        default_query_timeout=36000000
        have_compress=true
        poll_timeout=2000
        interfaces="0.0.0.0:6033"		#指定代理端口
        default_schema="information_schema"
        stacksize=1048576
        server_version="5.5.30"			#指定后端mysql的版本
        connect_timeout_server=3000
        monitor_username="monitor"
        monitor_password="monitor"
        monitor_history=600000
        monitor_connect_interval=60000
        monitor_ping_interval=10000
        monitor_read_only_interval=1500
        monitor_read_only_timeout=500
        ping_interval_server_msec=120000
        ping_timeout_server=500
        commands_stats=true
        sessions_sort=true
        connect_retries_on_failure=10
}

mysql_servers =
(
)

mysql_users:
(
)

mysql_query_rules:
(
)

scheduler=
(
)

mysql_replication_hostgroups=
(
)

[root@proxysql ~]# systemctl start proxysql

3.4 ProxySQL在线配置数据库介绍

//通过mysql客户端登录到ProxySQL管理端口
[root@proxysql ~]# mysql -uadmin -padmin -h127.0.0.1 -P6032

MySQL [(none)]> show databases;
+-----+---------------+-------------------------------------+
| seq | name          | file                                |
+-----+---------------+-------------------------------------+
| 0   | main          |                                     |
| 2   | disk          | /var/lib/proxysql/proxysql.db       |
| 3   | stats         |                                     |
| 4   | monitor       |                                     |
| 5   | stats_history | /var/lib/proxysql/proxysql_stats.db |
+-----+---------------+-------------------------------------+
5 rows in set (0.00 sec)
库名 作用
mainmemory层的内存配置数据库，表里存放后端db实例、用户验证、路由规则等信息。表名以runtime_开头的表示proxysql当前运行的配置内容，不可修改，只能修改对应的非runtime_ 开头的（在内存）里的表，然后LOAD使其生效，SAVE使其存到硬盘以供下次重启加载。
disk持久化到硬盘的sqlite数据文件。在重新启动时，“main” 不会持久存在，需要从“磁盘”数据库或配置文件中加载。
stats包含proxysql运行抓取的统计信息，包括到后端各命令的执行次数、流量、processlist、查询种类汇总、执行时间等等。
monitor存储monitor模块收集的信息，主要是对后端db的健康/延迟检查。

3.5 main数据库常用配置表介绍

//main内存配置数据库中常用配置表
MySQL [(none)]> show tables;
+----------------------------------------------------+
| tables                                             |
+----------------------------------------------------+
| global_variables                                   |
| mysql_collations                                   |
| mysql_query_rules                                  |
| mysql_replication_hostgroups                       |
| mysql_servers                                      |
| mysql_users                                        |
+----------------------------------------------------+
表名 作用
global_variables该表定义管理变量和MySQL变量；管理变量，控制管理界面的行为，他们的名字以标记“admin-”开头；mysql变量，控制代理的MySQL功能，他们的名字以标记“mysql-”开头。
global_variables官网参考文档：https://proxysql.com/documentation/global-variables
mysql_collations相关字符集和校验规则。
mysql_query_rules定义查询路由规则。
mysql_replication_hostgroups监视指定主机组中所有服务器的read_only值，并且根据read_only的值将服务器分配给写入器或读取器主机组。ProxySQL monitor模块会监控hostgroups后端所有servers的read_only 变量，如果发现从库的read_only变为0、主库变为1，则认为角色互换了，自动改写mysql_servers表里面 hostgroup关系，达到自动Failover效果。
mysql_servers包含要连接的ProxySQL的后端服务器列表。
mysql_users包含配置后端数据库的程序账号和监控账号。

3.6 stats数据库常用配置表介绍

//stats库中常用的表
MySQL [(none)]> show tables from stats;
+--------------------------------------+
| tables                               |
+--------------------------------------+
| stats_mysql_commands_counters        |
| stats_mysql_connection_pool          |
| stats_mysql_processlist              |
| stats_mysql_query_digest             |
| stats_mysql_query_rules              |
+--------------------------------------+
表名作用
stats_mysql_commands_counters统计各种SQL类型的执行次数和时间，通过参数mysql-commands_stats控制开关，默认是ture。
stats_mysql_connection_pool连接后端MySQL的连接信息。
stats_mysql_processlist类似MySQL的show processlist的命令，查看各线程的状态。
stats_mysql_query_digest表示SQL的执行次数、时间消耗等。通过变量mysql-query_digests控制开关，默认是开。
stats_mysql_query_rules路由命中次数统计。

3.7 monitor数据库常用配置表介绍

//monitor库中常用的表        
MySQL [(none)]> show tables from monitor;
+--------------------------------------+
| tables                               |
+--------------------------------------+
| mysql_server_connect_log             |
| mysql_server_ping_log                |
| mysql_server_replication_lag_log     |
+--------------------------------------+
表名作用
mysql_server_connect_log连接到所有MySQL服务器以检查它们是否可用，该表用来存放检测连接的日志。
mysql_server_ping_log使用mysql_ping API ping后端MySQL服务器，检查它们是否可用，该表用来存放ping的日志。
mysql_server_replication_lag_log后端MySQL服务主从延迟的检测。

3.8 ProxySQL配置流程

ProxySQL安装部署官方文档：https://proxysql.com/documentation/installing-proxysql/

ProxySQL基础配置官方文档：https://proxysql.com/documentation/ProxySQL-Configuration

ProxySQL读写分离官方文档：https://proxysql.com/documentation/proxysql-read-write-split-howto

ProxySQL分片官方文档：https://proxysql.com/documentation/how-to-setup-proxysql-sharding/

# MySQL  
MySQL MHA高可用
MySQL 主主复制

评论

标签云

Docker MySQL KVM 服务 OpenStack Linux

最新资源

最新评论

想念壮哥的第216天14小时51分 : :tear:

标签

Docker 5
MySQL 11
KVM 1
服务 8
OpenStack 2
Linux 32
关注我
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×

最新文章
Docker compose容器编排

Docker compose容器编排1、Docker compose简介docker-compose是docker编排工具，用于管理docker容器，在如今的微服务时代，一个项目会存在多个服务，使用docker一个个部署操作的话就会很麻烦，如果使用docker编排工具一键部署，统一管理就会便捷很多，
Docker 镜像制作

Docker镜像制作1、如何制作Docker镜像 制作属于自己的Docker镜像，一般有两种方式： 第一种为commit方式，利用已有的镜像，运行为容器后安装定制自己需要的环境，然后由容器生成镜像； 另一种就是build方式，通过编写Dockerfile文件添加构建镜像指令生成镜像。 1、docker commit制作镜像 docker commit 命令主要作用是将已经配置好运行环境的容器重新提交为镜像；此时提交成功的镜像就可以使用，并且环境已经配置好，不需要配置环境。 格式： docker commit [选项] <容器ID或容器名> [<仓库名>[:<标签>]] 选项： --author //指定修改的作者 --message //记录本次修改的内容
Docker 容器

Docker容器1、Docker容器概述 Docker容器是镜像运行的实例。容器是在一个资源隔离的环境中运行应用程序和其依赖项的、轻量化的虚拟化技术。容器运行在独立的沙箱环境中，这保证了容器内的进程不会影响到容器外的任何进程。 1.1 容器的优点 敏捷环境：容器技术的最大优势是比创建VM(虚拟机)实例更快的速度。它们的轻量化在性能和占用空间方面的开销更小。 提高生产力：提高开发、部署以及升级效率；每个容器都可以被看作是一个不同的微服务，因此可以独立升级，而不需要考虑它们的同步。 版本控制：容器的每个镜像都可以进行版本控制，因此可以跟踪不同版本的容器，注意版本之间的差异。 计算环境可移植性：docker的镜像封装了程序运行所依赖的环境，所以只要安装docker程序，并下载镜像在任何环境都可以运行容器。 标准化：大多数容器基于开放标准，可以运行在所有主要的Linux发行版，微软等。 安全：容器将一个容器的进程与另一个容器以及底层基础架构隔离开来；因此一个容器中的任何升级或更改都不会影响其他容器。
Docker 镜像

Docker镜像简介1、Docker镜像概述 1.1 什么是Docker镜像？ Docker镜像是一种轻量级，可执行的独立软件包，用来打包软件运行环境和基于运行环境开发的程序，它包含运行某个程序所需要所有内容，包括代码、库文件、环境变量和配置文件。 简单来说Docker镜像就好比是一个模板，可以通过这个模板来创建容器服务；一个镜像可以创建多个容器（程序运行在容器中）。1.2 Docker镜像获取方式 从远程仓库下载 朋友拷贝给你 自己制作docker镜像（DockerFile） 2、Docker镜像详解 2.1 UnionFS（联合文件系统） UnionFS（联合文件系统）是一种分层、轻量级并且高性能的文件系统，它支持对文件系统的修改作为一次提交来一层一层的叠加，同时可以将不通目录挂载到同一个虚拟文件系统下。UnionFS（联合文件系统）是Docker镜像的基础，镜像可以通过分层来进行继承，基于基础镜像可以制作各种应用镜像。 UnionFS（联合文件系统）特性：一次同时加载多个文件系统，但从外面看起来，只能看到一个文件系统，联合加载会把各层文件系统叠加起来，这样最终的文件系统会包含所有底层的文件和目录。
Docker 简介

Docker容器简介1、Docker概述1.1 Docker为什么会出现？一款软件产品必须经过：开发 -> 上线开发人员负责将程序开发制作出来。运维人员负责上线程序，修改应用配置。在这里存在一个问题：开发环境和上线环境不一致；可能会导致，开发人员在自己的电脑上可以正常运行代码，运维人员将程序上
分类
Linux linux
OpenStack openstack
MySQL mysql
Docker docker
标签
Docker docker
MySQL mysql
KVM kvm
服务 服务
OpenStack openstack
Linux linux