rsync+inotify实现文件时实同步（转）

转自：http://zhumeng8337797.blog.163.com/blog/static/100768914201172952619883/

1、说明
   实验操作系统：CentOS release 5.6
   服务器端(代码更新服务器)：192.168.0.5
   客户端(web服务器)：192.168.0.6   192.168.0.7  192.168.0.8
   web目录：/data/httpd/wwwroot/
   原理：由192.168.0.5上inotify服务监测文件是否有更新,如果有更新(修改，删除，新建)inotify就会通过rsync命令将更新的文件推向三台web服务器
   架构图如下：

 

 

2、在三台web上配置rsync服务

   #mkdir -p /data/httpd/wwwroot       #创建web目录

 

   #vim /etc/rsyncd.conf               #配置文件
   uid = root
   gid = root
   use chroot = no
   max connections = 5
   pid file = /var/run/rsyncd.pid
   lock file = /var/run/rsync.lock
   log file = /var/log/rsyncd.log

   [www]
   path=/data/httpd/wwwroot/
   comment = update
   ignore errors
   read only = no
   list = no
   hosts allow = 192.168.0.0/255.255.255.0
   auth users = root
   uid = root
   gid = root
   secrets file = /etc/rsyncd.secrets
   
   #vim /etc/rsyncd.secrets                   #创建rsync证文件
   123456
   root:123456

   #chmod 0600 /etc/rsyncd.secrets            #设置权限
   #rsync --daemon                            #启动服务
   #echo "rsync --daemon"  >> /etc/rc.local   #开机自启动
  

   关于rsync详细配置请参考http://linux008.blog.51cto.com/2837805/570936
3、配置服务端（rsync+inotify）
   #mkdir -p /data/httpd/wwwroot   #创建目录存放代码
   (1)、安装inotify

   #cd /usr/local/src/
   #wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
   #tar xzvf inotify-tools-3.14.tar.gz
   #cd inotify-tools-3.14
   #./configure
   #make
   #make install

   (2)、编写同步更新脚本

   #mkdir /root/bin
   #cd /root/bin
   #vim rsync.sh
   
   #!/bin/bash
   src=/data/httpd/wwwroot/
   des=www
   host="192.168.0.6 192.168.0.7 192.168.0.8"
   /usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e modify,delete,create,attrib $src | while read files
   do
     for hostip in $host
     do
        rsync -vzrtopg --delete --progress --password-file=/etc/rsyncd.secrets $src root@$hostip::$des
     done
     echo "${files} was rsynced" >>/tmp/rsync.log 2>&1
   done

   (3)、创建rsync认证文件
   

   #vim /etc/rsyncd.secrets                 

 

   123456

   root:123456
   #chmod u+x /etc/rsyncd.secrets

   (4)、启动

   #nohup /bin/bash /root/bin/rsync.sh &

   
   (5)、开机自启动

   #echo "nohup /bin/bash /root/bin/rsync.sh &" >> /etc/rc.local

   
   (6)、测试
   在192.168.0.5上进入目录/data/httpd/wwwroot/
   #touch a.txt
   在三台web机上/data/httpd/wwwroot/目录可以立马看a.txt。

 

 

 

 

 

　(参考文档http://www.examda.com/linux/fudao/20091030/093634971.html）rsync是类unix系统下的数据镜像备份工具，从软件的命名上就可以看出来了——remote sync。它的特性如下：

         可以镜像保存整个目录树和文件系统。

         可以很容易做到保持原来文件的权限、时间、软硬链接等等。

         无须特殊权限即可安装。

         优化的流程， 文件传输效率高。

         可以使用rcp、ssh等方式来传输文件，当然也可以通过直接的socket连接。

         支持匿名传输，以方便进行网站镜象。

         软件下载

        rsync的主页地址为： http://rsync.samba.org/  （以上来自百度百科）

　　服务器需求：

　　需要备份文件的服务器（服务器端）：59.151.24.209 （RHEL 5）

　　接收备份文件的服务器（客户端）：59.151.24.243 （RHEL 5）

　　需要备份的目录：

        /docroot             网站服务器自动生成的静态页面实时备份

        /nchall                网站动态页面，一般情况下变化不大，一天备一次

        /usr/local/netcert     静态页面生成程序，基本无变化，一天备一次　　

　　　rsync的配置如下：

　　1.服务器端rsync的安装：使用系统自带的rsync工具，插入系统启动光盘，通过rpm安装rsync工具。

　　若采用采用源码包安装，上传安装包到服务器

                 1）tar –zxvf rsyncrsync-2.6.9.tar.gz     　　#解压

                 2）cd rsyncrsync-2.6.9

                 3）./configure    　　#默认配置，生成编译环境

　　          4）make #编译

　　          5）make install 　　#安装完成，

任何步骤有疑问输入echo $?查返回值，0表示成功，其他都为失败

       配置：

    1）编辑/etc/rsyncd.conf文件，rsync的主要配置文件：

 

uid = root
gid = root
use chroot = no
max connections = 4
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsyncd.lock
log file = /var/log/rsyncd.log

[docroot]
path = /docroot
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt

[nchall]
path = /nchall
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt

[netcert]
path = /usr/local/netcert
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt

 

 

        2）编辑/etc/rsyncd.scrt文件，密码认证文件

　　rsync：123456

　　该更权限为600：chmod 600 /etc/rsyncd.scrt

        3) 运行rsync --daemon,并在/etc/rc.d/rc.local加入此语句,开机自动启动。

　　备注：rsync默认端口873，若安装了iptables，如需改动启动时启动rsync –port 873,请在iptables 中开放该端口，语句如下：

　　iptables -I INPUT -p tcp --dport 873 -j ACCEPT

　　4）编辑/etc/xinetd.d/rsync

　　rsync服务的监听由xinet来统一分配:

　　service rsync

　　{

　　disable = no #将此项改为no

　　socket_type = stream

　　wait = no

　　user = root

　　server = /usr/bin/rsync

　　server_args = --daemon

　　log_on_failure += USERID

　　}

重启xinetd以启动rsync服务

　　service xinetd restart

　　5)查看rsync事故正常运行

　　输入命令：netstat -ant|grep :873若有显示以下一条语句，则说明rsync服务已经正常启动了。

　　tcp    　　0  　　0 0.0.0.0:873             　　0.0.0.0:*               　　LISTEN

               2.客户端的配置：使用系统自带的rsync工具，插入系统启动光盘，通过rpm安装rsync工具。

　　1）编辑/etc/rsyncd.scrt文件，密码认证文件

　　     123456    (只写密码文件，不要写用户名，否则报错)

　　该更权限为600：chmod 600 /etc/rsyncd.scrt

       2）编辑脚本vi /root/scrpit/rsync.sh并加入开机自动启动。

　[root@selina ~]# cat rsync.sh 
#!/bin/sh 
/usr/bin/rsync -vazu --progress --delete  [email protected]::docroot /docroot --password-file=/etc/rsyncd.scrt

   [root@selina ~]# cat rsync1.sh 
#!/bin/sh 
/usr/bin/rsync -vazu --progress --delete  [email protected]::nchall /nchall --password-file=/etc/rsyncd.scrt 
 

修改权限：chmod u+x /root/scrpit/rsync.sh执行./rsync.sh 同步数据。

　　3）编辑/etc/crontab文件，执行数据同步。

　　[root@selina ~]# crontab -l
*/1 * * * * /root/rsync.sh 
0 1 * * * /root/rsync1.sh

客户端的配置到此就可以了

 

　　客户端同步命令详解：

　　v, --verbose 详细模式输出-q, --quiet 精简输出模式-c, --checksum 打开校验开关，强制对文件传输进行校验-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD -r, --recursive 对子目录以递归模式处理-R, --relative 使用相对路径信息-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

　　--backup-dir 将备份文件(如~filename)存放在在目录下。

　　-suffix=SUFFIX定义备份文件前缀

　　-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结-L, --copy-links 想对待常规文件一样处理软链结

　　--copy-unsafe-links仅仅拷贝指向SRC路径目录树以外的链结

　　--safe-links忽略指向SRC路径目录树以外的链结

　　-H, --hard-links 保留硬链结-p, --perms 保持文件权限-o, --owner 保持文件属主信息-g, --group 保持文件属组信息-D, --devices 保持设备文件信息-t, --times 保持文件时间信息-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间-n, --dry-run现实哪些文件将被传输-W, --whole-file 拷贝文件，不进行增量检测-x, --one-file-system 不要跨越文件系统边界-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节-e, --rsh=COMMAND 指定替代rsh的shell程序

　　--rsync-path=PATH指定远程服务器上的rsync命令所在路径信息

　　-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件

　　--delete删除那些DST中SRC没有的文件

　　--delete-excluded同样删除接收端那些被该选项指定排除的文件

　　--delete-after传输结束以后再删除

--ignore-errors及时出现IO错误也进行删除

　　--max-delete=NUM最多删除NUM个文件

　　--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输--force 强制删除目录，即使不为空

　　--numeric-ids不将数字的用户和组ID匹配为用户名和组名

　　--timeout=TIME IP超时时间，单位为秒-I, --ignore-times 不跳过那些有同样的时间和长度的文件--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0

　　-T --temp-dir=DIR在DIR中创建临时文件

　　--compare-dest=DIR同样比较DIR中的文件来决定是否需要备份

　　-P等同于--partial

　　--progress显示备份过程

　　-z, --compress 对备份的文件在传输时进行压缩处理

　　--exclude=PATTERN指定排除不需要传输的文件模式

　　--include=PATTERN指定不排除而需要传输的文件模式

　　--exclude-from=FILE排除FILE中指定模式的文件

　　--include-from=FILE不排除FILE指定模式匹配的文件

　　--version打印版本信息

　　--address绑定到特定的地址

　　--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件

　　--port=PORT指定其他的rsync服务端口

　　--blocking-io对远程shell使用阻塞IO

　　-stats给出某些文件的传输状态

　　--progress在传输时现实传输过程

　　--log-format=formAT指定日志文件格式

　　--password-file=FILE从FILE中得到密码

　　--bwlimit=KBPS 限制I/O带宽，KBytes per second -h, --help 显示帮助信息