Lsyncd 实时同步服务

Lsyncd实时同步

1、实时同步简介

实时同步是指当存储服务器中数据新增、删除或发生改变后,立刻将变化后的数据同步至备份服务器,保持存储服务器和备份服务器之间数据的统一。

1.1 实时同步使用场景

1.解决NFS单点故障问题
2.备份NFS服务器数据,提供冗余服务

1.2 实时同步实施难点

1.什么条件下才对数据同步?
2.同步哪些文件?
3.多久同步一次?
4.使用什么工具同步?

2、Inotify实现实时同步

2.1 Inotify简介

Inotify是一个Linux特性,提供了文件系统事件监控机制;它监控文件系统操作,比如读取、写入和创建。Linux-2.6.13内核起加入inotify支持。

查看系统是否支持inotify

[root@nfs ~]# ll /proc/sys/fs/inotify/
总用量 0
-rw-r--r-- 1 root root 0 11月 25 15:00 max_queued_events
-rw-r--r-- 1 root root 0 11月 25 15:00 max_user_instances
-rw-r--r-- 1 root root 0 11月 25 15:00 max_user_watches

//状态解释
max_queued_events	//设置inotify实例事件(event)队列可容纳的事件数量
max_user_instances	//设置每个用户可以运行的inotify或者inotifywatch命令的进程数
max_user_watches	//设置inotifywait或者inotifywatch命令可以监视的文件数量(单进程)

2.2 inotify工具安装使用

使用inotify工具监控存储服务器本地数据是否发生变化,当监控到本地数据变化,将变化之后的数据使用Rsync工具同步至备份服务器。

存储服务器安装inotify-tools工具

[root@nfs ~]# yum -y install http://www6.atomicorp.com/channels/atomic/centos/7/x86_64/RPMS/inotify-tools-3.13-2.el7.art.x86_64.rpm

inotifywait命令选项

-m		//始终保持事件监听状态
-r		//递归查询目录
-q		//仅打印监控事件信息
--timefmt	//指定时间输出格式
--format	//指定事件输出格式
-e			//指定事件,增、删、改等事件
-t			//超时时间
-exclude	//排除指定文件或目录,不区分大小写

//事件输出格式
%T		//调用并显示定义好的时间格式
%w		//显示发生变化的文件路径
%f		//显示监控到的文件名称,和%w一起显示文件的绝对路径
%e		//显示事件类型

//事件说明
access		//读取文件或目录内容
modify		//修改文件或目录内容
create		//在监视目录下创建文件或目录
delete		//删除监视目录下的文件或目录
attrib		//文件或目录属性改变
close		//文件被关闭
open		//文件或目录被打开
move		//文件或目录被移动到监视目录
umount		//卸载文件系统

inotifywait监控命令测试

//创建数据存放目录/data,使用inotifywait命令监控/data目录变化
[root@nfs ~]# mkdir /data
[root@nfs ~]# inotifywait -mrq --format '%w%f' -e create,delete,modify /data/

此时当/data目录有create,delete,modify事件时,会将触发事件的文件绝对路径打印出来

//监控多个目录,并显示时间与触发的事件信息
[root@nfs ~]# inotifywait -mrq --timefmt '%F %H:%M' --format '%T %w%f %e' -e create,delete,modify /data/ /backup/

2.3 Inotify+Rsync实现实时同步

//环境准备
NFS存储服务器:利用inotify+rsync工具撰写实时同步脚本
Backup备份服务器:Rsync服务模式,配置/backup目录为数据备份目录,模块名称为backup

//存储服务器安装Rsync,撰写实时同步脚本
[root@nfs ~]# mkdir /scripts
[root@nfs ~]# vim /scripts/inotify_rsync.sh
#!/bin/bash
#配置rsync客户端虚拟用户密码
export RSYNC_PASSWORD='passwd'
#使用监测数据目录变化,将变化的文件绝对路径通过管道符传递给while循环进行读取,进行传输
inotifywait -mrq --format '%w%f' -e create,delete,modify /data/ | while read line
do
    if [ -f ${line} ];then
        rsync -avz ${line} rsync_backup@10.0.0.16::backup
    else
        rsync -avz --delete /data/ rsync_backup@10.0.0.16::backup
    fi
done

[root@nfs ~]# chmod +x /scripts/inotify_rsync.sh
[root@nfs ~]# /scripts/inotify_rsync.sh

//在存储服务器数据目录创建文件,查看备份服务器实时同步是否成功
[root@nfs /data]# touch file1
[root@nfs /data]# ls
file1

[root@backup ~]# ls /backup/
file1

注意:虽然Inotify+Rsync可以实现实时同步,但其效率低下,同步延迟较高。

3、Sersync实现实时同步

Sersync = Inotify + Rsync
Inotify有监控的功能,而Rsync有数据同步的功能,Sersync的功能就是监控某个目录,当这个目录触发事件时(插入、删除、修改等事件)就自动触发Rsync将数据变化及时的同步到备份服务器。

Sersync服务部署

//环境准备
NFS存储服务器:Rsync + inotify + Sersync
Backup备份服务器:Rsync服务模式

//存储服务器下载安装Sersync工具
[root@nfs ~]# cd /opt/
[root@nfs /opt]# wget https://storage.googleapis.com/google-code-archive-downloads/v2/code.google.com/sersync/sersync2.5.4_64bit_binary_stable_final.tar.gz

[root@nfs /opt]# tar -xf sersync2.5.4_64bit_binary_stable_final.tar.gz

[root@nfs /opt]# cd GNU-Linux-x86/
[root@nfs /opt/GNU-Linux-x86]# ls
confxml.xml  sersync2

[root@nfs /opt/GNU-Linux-x86]# cp confxml.xml confxml.xml.bak

//修改sersync配置文件
[root@nfs /opt/GNU-Linux-x86]# vim confxml.xml
    <sersync>
        <localpath watch="/data">	//监控的本地目录,需要同步的目录
            <remote ip="10.0.0.16" name="backup"/>	//备份服务器的IP和rsync模块名称
            <!--<remote ip="192.168.8.39" name="tongbu"/>-->
            <!--<remote ip="192.168.8.40" name="tongbu"/>-->
        </localpath>
        <rsync>
            <commonParams params="-az"/>	//本地rsync工具使用选项
            <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.pass"/>	//rsync虚拟用户名和密码文件
            <userDefinedPort start="false" port="874"/><!-- port=874 -->
            <timeout start="false" time="100"/><!-- timeout=100 -->
            <ssh start="false"/>
        </rsync>
        <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
        <crontab start="false" schedule="600"><!--600mins-->
            <crontabfilter start="false">
                <exclude expression="*.php"></exclude>
                <exclude expression="info/*"></exclude>
            </crontabfilter>
        </crontab>
        <plugin start="false" name="command"/>
    </sersync>

[root@nfs /opt/GNU-Linux-x86]# echo 'passwd' > /etc/rsync.pass
[root@nfs /opt/GNU-Linux-x86]# chmod 600 /etc/rsync.pass

//启动sersync服务
[root@nfs /opt/GNU-Linux-x86]# ./sersync2 -rdo confxml.xml

[root@nfs /opt/GNU-Linux-x86]# ps aux | grep '[s]ersync'
root      36134  0.0  0.0  92336   756 ?        Ssl  17:09   0:00 ./sersync2 -rdo confxml.xml

//在存储服务器数据目录创建文件,查看备份服务器实时同步是否成功
[root@nfs /data]# touch test1
[root@nfs /data]# ls
test1

[root@backup /backup]# ls
test1

注意:Sersync服务可以实现实时同步,但性能还是不够高,效率比较低;虽说可以通过多个配置文件启动多个Sersync服务解决效率问题,但是Sersync服务程序已经停止维护不再更新。

4、Lsyncd实现实时同步

Lysncd是lua语言封装了inotify和rsync工具,采用了Linux内核中的inotify触发机制,然后通过rsync去差异同步,达到实时的效果。它最令人称道的特性是完美解决了inotify+rsync海量文件同步带来的频繁发送文件列表的问题 (通过时间延迟或累计触发事件次数实现)。

Lsyncd服务部署

//环境准备
NFS存储服务器:lsyncd服务
Backup备份服务器:Rsync服务模式

//存储服务器配置阿里云扩展源
[root@nfs ~]# curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
[root@nfs ~]# curl -o /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo

//存储服务器安装lsyncd服务
[root@nfs ~]# yum -y install lsyncd

//修改lsyncd配置文件
settings {
  logfile = "/var/log/lsyncd/lsyncd.log",
  statusFile = "/var/log/lsyncd/lsyncd.status",
  inotifyMode = "CloseWrite",
  maxProcesses = 10,
  maxDelays = 10,
  nodaemon = true,
  statusInterval = 10,
  }
sync {
  default.rsync,
  source = "/data",
  target = "rsync_backup@10.0.0.16::backup",
  delay = 1,
  delete = true,
  exclude = {".*"},
  rsync = {
    binary = "/usr/bin/rsync",
    password_file = "/etc/rsync.pass",
    archive = true,
    compress = true,
    verbose = true,
    _extra = {"--bwlimit=20"},
  }
}

//配置文件解析
[root@nfs ~]# vim /etc/lsyncd.conf
settings {	//全局配置
  logfile = "/var/log/lsyncd/lsyncd.log",	//服务日志文件存放位置
  statusFile = "/var/log/lsyncd/lsyncd.status",	//数据传输日志存放位置
  inotifyMode = "CloseWrite",	//inotify事件监控模式
  maxProcesses = 10,	//同步时最大进程数
  maxDelays = 10,	//累计多少监控事件后激活一次同步
  nodaemon = true,	//是否启用守护模式,默认不启用
  statusInterval = 10,	//数据传输日志写入间隔,默认10秒
  }
sync {	//定义sync同步参数
  default.rsync,	//同步使用rsync模式,有rsync、rsyncssh、direct三种模式
  source = "/data",	//源目录(监控目录),需要同步的数据存放目录
  target = "rsync_backup@10.0.0.16::backup",	//目标备份服务器rsync虚拟用户和目标模块
  delay = 1,	//延迟同步,可避免过于频繁的同步
  init = true	//进程启动时是否先进行一次同步
  delete = true,	//使得目标目录和源目录数据保持一致
  exclude = {".*"},	//排除匹配到的项,可以使用通配符,这里排除隐藏文件
  excludeFrom = ""	//排除列表,后面指定排除的列表文件
  rsync = {
    binary = "/usr/bin/rsync",
    password_file = "/etc/rsync.pass",	//rsync虚拟用户密码文件
    archive = true,	//相当于rsync的-a选项
    compress = true,	//相当于rsync的-z选项
    verbose = true,	//相当于rsync的-v选项
    _extra = {"--bwlimit=20"},	//扩展选项
  }
}

[root@nfs ~]# echo 'passwd' > /etc/rsync.pass
[root@nfs ~]# chmod 600 /etc/rsync.pass

//启动服务并设置开机自启
[root@nfs ~]# systemctl start lsyncd.service
[root@nfs ~]# systemctl enable lsyncd.service

//在存储服务器数据目录创建文件,查看备份服务器实时同步是否成功
[root@nfs /data]# touch testfile
[root@nfs /data]# ls
testfile

[root@backup /backup]# ls
testfile

建议:lsyncd服务实现实时同步效率较高,若服务器系统支持,建议使用lsyncd服务实现数据实时同步备份。

# Linux   服务  

评论

Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×