昶萌

Centos7.4 搭建rsync+inotify 实现数据同步
起因公司原服务器在国外,国内访问速度太慢,需要重新购买一个服务器,部署环境,给国内用户使用!就需要同步网站特定内容...
扫描右侧二维码阅读全文
10
2018/05

Centos7.4 搭建rsync+inotify 实现数据同步

起因

公司原服务器在国外,国内访问速度太慢,需要重新购买一个服务器,部署环境,给国内用户使用!就需要同步网站特定内容

优点

使用rsync工具和inotify机制相结合,可以实现触发式部署(实时同步),只要原始(主)位置的文档发生变幻,则立即启用增量推送操作,否则处于静态等待状态,这样以来,就避免了分布式集群部署过程复杂的问题。

服务器

服务器A: xxx:xxx:xxx:xxx
服务器B: xxx:xxx:xxx:xxx

rsync1.png

安装配置

服务器前期准备

1. 关闭SELINUX
vi /etc/selinux/config #编辑防火墙配置文件
#SELINUX=enforcing #注释掉
#SELINUXTYPE=targeted #注释掉
SELINUX=disabled #增加
:wq! #保存,退出
setenforce 0  #立即生效
2. 开启防火墙tcp 873端口(Rsync默认端口)
vi /etc/sysconfig/iptables #编辑防火墙配置文件
-A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT
:wq! #保存,退出
/etc/init.d/iptables restart #最后重启防火墙使配置生效
3. 关闭firewall(可选)
systemctl disable firewalld
systemctl stop firewalld

服务器A(从服务器,主服务器更新自动推送同步到此服务器)

1. 检查是否安装rsync工具
[root@rscny-slave ~]# rpm -qa rsync

显示下面内容代表以安装

rsync-3.0.9-18.el7.x86_64
2. 如果没有安装执行下面命令安装
yum install rsync -y
3. 编辑文件 /etc/rsyncd.conf 下入面内容(根据自己环境配置)
#工作中指定用户(可以不指定为0)
uid = 0
gid = 0
##相当于黑洞.出错定位
use chroot = no
##有多少个客户端同时传文件
max connections = 200
##超时时间
timeout = 300
##进程号文件
pid file = /var/run/rsyncd.pid
##日志文件
lock file = /var/run/rsync.lock
##日志文件
log file = /var/log/rsyncd.log
##模块开始
##模块名称随便起(可以是多个)
[bbg]
##需要同步的目录
path = /opt/nginx/html/
##表示出现错误忽略错误
ignore errors
##表示网络权限可写(本地控制真正可写)
read only = false
##这里设置IP或让不让同步
list = false
##指定允许的网段
hosts allow = 192.168.0.184
##拒绝链接的地址,一下表示没有拒绝的链接
hosts deny = 0.0.0.0/32
##不要动的东西(默认情况)
##虚拟用户
auth users = rsyncbbg
##虚拟用户的密码文件
secrets file = /etc/rsync.passwd
  • 上面的[bbg]这个内容要和后面inotify.sh中的名字对照!
  • 这里rsyncbbg是自己新建的专门用来同步的命令如下: useradd 用户名 passwd 用户名 <--这个命令设置密码
4. 配置虚拟用户的密码文件
[root@rsync-slave ~] # echo "rsyncbbg:123456" >/etc/rsync.passwd
[root@rsync-slave ~] # cat /etc/rsync.passwd
rsyncbbg:123456           # rsyncbbg为虚拟用户 123456为虚拟用户密码。
[root@rsync-slave ~] # chmod 600 /etc/rsync.passwd #为密码提取,增加安全性。
5. 启动rsync服务
[root@rsync-slave]#  rsync --daemon   #启动rsync服务  或者 systemctl start rsyncd 启动。
[root@rsync-slave]#  ps -ef | grep rsync
[root@rsync-slave]#  netstat -lnutp | grep rsync

rsync2.png

到此出从服务器配置完成!

服务器B(主服务器)

也需要安装rsync

1. 查看系统是否支持inotify
[root@rsync-master]#   ll  /proc/sys/fs/inotify

rsync3.png

解释:/proc/sys/fs/inotify/max_queued_evnets
表示调用inotify_init时分配给inotify instance中可排队的event的数目的最大值,超出这个值的事件被丢弃,但会触发IN_Q_OVERFLOW事件。
/proc/sys/fs/inotify/max_user_instances
表示每一个real user ID可创建的inotify instatnces的数量上限。
/proc/sys/fs/inotify/max_user_watches
表示每个inotify instatnces可监控的最大目录数量。如果监控的文件数目巨大,需要根据情况,适当增加此值的大小。
例如: echo 30000000 > /proc/sys/fs/inotify/max_user_watches

2. 下载inotify源码包并编译安装

inotify是一种强大的、细粒度的、异步的文件系统事件控制机制。linux内核从2.6.13起,加入了inotify支持,通过inotify可以监控文件系统中添加、删除、修改、移动等各种事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools正是实施监控的软件。

[root@inotify-master]# wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
[root@inotify-master]# tar zxf inotify-tools-3.14.tar.gz
[root@inotify-master]# cd inotify-tools-3.14
[root@inotify-master inotify-tools-3.14]#   ./configure --prefix=/usr/local/inotify/   
[root@inotify-master inotify-tools-3.14]#   make && make install 

如果在编译的时候发生错误,一般是没有安装 gcc.可以使用下面命令安装:yum install gcc gcc++

3. 主节点 inotify.sh 脚本 脚本如下:
#!/bin/bash
#chkconfig: 2345 10 90
#description: inotify
host_slave=192.168.0.200                        #inotify-slave的ip地址
master_src=/opt/nginx/html/                     #本地监控的目录
inotify_home=/usr/local/inotify                 #inotify的安装目录
slave_user_name=rsyncbbg
slave_name=bbg

${inotify_home}/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e close_write,modify,delete,create,attrib ${master_src} | while read file

do
    rsync -az --exclude-from=$excludedir  ${master_src} ${slave_user_name}@${host_slave}::${slave_name} --password-file=/etc/rsync.password
    echo "  ${file} was rsynced" >>/tmp/rsync.log 2>&1
done

注意!模块名称 bbg 要和vim /etc/rsyncd.conf 里面的一致
注意!本地监控目录 要和vim /etc/rsyncd.conf 里面的一致
注意!inotify的安装目录 要和vim /etc/rsyncd.conf 里面的一致
注意!vim /etc/rsync.password 配置文件名称要一致
注意!!!!检查 vim /etc/rsync.password 的权限,一定是600 这个是主服务器需要新建的.里面只写密码.参考服务器A 4 配置密码(rsyncbbg:123456) 这个文件只需要写这个密码 123456
chmod 600 /etc/rsync.password)!!!

这里需要创建rsyncbbg用户并设置密码

[root@inotify-master ~]# echo "123456" >/etc/rsync.password
[root@inotify-master ~]# chmod 600 /etc/rsync.password
5. 开机启动
[root@inotify-master ~]# mv inotify.sh /etc/rc.d/init.d/
[root@inotify-master ~]# cd /etc/rc.d/init.d/
[root@inotify-master ~]# chmod +x inotify.sh  #给予最高权限或者给予相应权限!
[root@inotify-master ~]# chkconfig --add inotify.sh
[root@inotify-master ~]# chkconfig inotify.sh on

扩展阅读:

inotify参数
-m 是保持一直监听
-r 是递归查看目录
-q 是打印出事件
-e create,move,delete,modify,attrib 是指 “监听 创建 移动 删除 写入 权限” 事件

rsync参数

-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关,强制对文件传输进行校验
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结
-p, --perms 保持文件权限
-o, --owner 保持文件属主信息
-g, --group 保持文件属组信息
-D, --devices 保持设备文件信息
-t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件,不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force 强制删除目录,即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间,单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽,KBytes per second
-h, --help 显示帮助信息

inotify.png

Last modification:July 6th, 2018 at 03:22 pm

Leave a Comment