[关闭]
@cdmonkey 2018-01-12T05:08:10.000000Z 字数 6455 阅读 992

sersync

网络服务

https://github.com/wsgzao/sersync
https://linux.cn/article-6032-1.html
https://www.kancloud.cn/curder/linux/78148
http://www.osyunwei.com/archives/7447.html
http://www.linuxidc.com/Linux/2012-02/53572.htm

一、简介

网站如果服务器较多，代码发布时所涉及到的文件数量很大，那么使用“rsync+inotify”就不太合适了，因为其性能在面对同步文件较多且体积较大时，其性能表现的非常一般。

该产品是原金山逍遥网技术支持部平台组周洋开发的一款基于“inotify+rsync”的大量文件的多服务器间自动同步程序产品，目前已开源，其中，inotify用于监控“Sersync”所处服务器上文件系统的变化事件，rsync则是目前被广泛应用的本地及异地数据同步工具。它支持多线程并发同步，使用“C”语言开发，执行效率高，同步性能好。

1. 特点

和其他的产品相比有如下优点：

2. 基本架构

3. 事件过滤

二、工作原理

使用“Linux”内核的inotify功能检测文件系统事件，被监听目录下如果有文件发生变化，它将会经由该功能自动捕获事件，并将该文件利用rsync同步到多台远端的服务器。该产品仅仅是同步发生增、删改等事件的具体文件及目录，而不同于使用rsync进行同步那样需要比对双方的整个目录下全部的文件，并且支持多线程同步，因而效率非常高。

test.png-8.5kB

于备份源服务器上设置“Sersync（可以不开启rsync服务，这样可以从备份源向备份服务器推送数据），而备份服务器上设置好rsync并开启守护进程，这样备份源产生的文件变化，就会被实时的同步到多个备份服务器。其实际上就是通过该软件实时检测文件系统的变化，随后调用rsync指令，将对应的文件推送到备份服务器上，就这么简单。

三、安装及配置

部署之前，首先必须要确保备份源服务器上能够手动的通过rsync指令将需要备份的数据推送到备份服务器上，这样它才能够成功的调用rsync指令进行数据同步。

1. Install

软件的安装非常的方便，下载后解压即可使用。

  1. # 下载的压缩包（分为32位版本及64位版本）中包含已经编译好的二进制文件以及xml格式的设置文件：
  2. [root@Node-A5 tools]# tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/local/
  3. GNU-Linux-x86/
  4. GNU-Linux-x86/sersync2
  5. GNU-Linux-x86/confxml.xml
  6. # Rename the directory：
  7. [root@Node-A5 tools]# cd /usr/local/
  8. [root@Node-A5 local]# mv GNU-Linux-x86/ sersync
  9. # Backup the xml configure file:
  10. [root@Node-A5 local]# cd sersync/
  11. [root@Node-A5 sersync]# cp confxml.xml confxml.xml.`date +%F`.bak

2. Configure

注意：其中false表示该功能未开启，而true则表示该功能生效。

  1. [root@Node-A5 sersync]# vim confxml.xml
  2. <?xml version="1.0" encoding="ISO-8859-1"?>
  3. <head version="2.5">
  4.     <host hostip="localhost" port="8008"></host>
  5.     <!-- 这里的IP及端口是针对插件的保留字段，对于同步功能没有任何作用，保留默认即可。-->
  6.     <debug start="false"/>
  7.     <!-- 如果开启Debug，则会向当前使用的控制台中输出显示inotify事件与相关的同步命令。-->
  8.     <fileSystem xfs="false"/>
  9.     <!-- 使用xfs文件系统的用户，需要将这个选项开启，才能使该软件正常工作。-->
  10.     <filter start="false">     <!-- 是否开启文件过滤功能。-->
  11.     <!-- 对于进行监控的文件，会默认过滤系统的临时文件（以.开头，以～结尾），除了这些文件外，可以自定义其他需要过滤的文件。-->
  12.     <exclude expression="(.*)\.svn"></exclude>
  13.     <exclude expression="(.*)\.gz"></exclude>
  14.     <exclude expression="^info/*"></exclude>
  15.     <exclude expression="^static/*"></exclude>
  16.     </filter>

将文件过滤功能开启后，在exclude标签中填写正则表达式，默认有四个过滤标签，分别是过滤以.gz以及.svn为结尾的文件与过滤检测目录下的info及static子目录。过滤规则可以根据需要添加，但开启的时候，自己测试一下，正则表达式如果出现错误，则控制台会有提示。相比较使用rsync的对应功能，被过滤的路径不会加入检测，大大减少同步的通讯量。

  1.     <inotify>
  2.     <!-- 这部分是对于inotify监测参数的相关设置，可根据项目的特点进行调整及优化。-->
  3.     <delete start="true"/>
  4.     <createFolder start="true"/>
  5.     <createFile start="false"/>
  6.     <closeWrite start="true"/>
  7.     <moveFrom start="true"/>
  8.     <moveTo start="true"/>
  9.     <attrib start="false"/>
  10.     <modify start="false"/>
  11.     </inotify>

对于大多数应用，可以尝试把createFile（监测文件事件选项）关闭来提高性能，减少同步数据通讯量。因为拷贝文件到监测目录会产生create事件与close_write事件，所以如果仅关闭create事件，而只监测文件拷贝结束时的事件，同样能够进行文件的完整同步。

注意：请将createFolder保持开启，如果将其关闭，则不会对产生的目录进行监测，该目录下的子文件与子目录也不会被监测。所以除非特殊需要，请开启。默认情况下对创建文件（目录）事件及移除文件（目录）事件都进行监测，如果实际生产中不需要移除远程目标服务器的文件（目录），则可以将delete参数关闭，则不对移除事件进行监测。

  1.     <sersync>
  2.     <!-- 对文件监控与远程同步的设置：对本地监控目录的设置（需要同步的目录）。-->
  3.     <localpath watch="/opt/tongbu">
  4.         <remote ip="172.16.1.26" name="oldboy"/>
  5.         <!-- 同步到哪台远程主机上。注意：名字指的是远程rsync服务的模块名称。-->
  6.         <!--<remote ip="192.168.8.39" name="tongbu"/>-->
  7.         <!--<remote ip="192.168.8.40" name="tongbu"/>-->
  8.     </localpath>
  1.     <rsync>
  2.     <!-- 此部分是针对rsync参数的设定。-->
  3.         <commonParams params="-artuz"/>     <!-- 设置指令所使用的选项。-->
  4.         <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>
  5.         <!-- 此部分是认证部分。如果将其开启，则使用rsync的认证模式进行传送，需要配置用户与密码文件来使用（这也是我们通常采用的方式）。-->
  6.         <userDefinedPort start="false" port="874"/><!-- port=874 -->
  7.         <!-- 当远程同步目标服务器的rsync服务端口不是默认端口的时候于此处进行设置。-->
  8.         <timeout start="false" time="100"/><!-- timeout=100 --> <!-- 设定超时时间。-->
  9.         <ssh start="false"/>     <!-- 设置是否使用ssh加密的方式进行数据的传输。-->
  10.     </rsync>

上面的内容实际上就是设定rsync指令的具体用法。

  1.     <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> <!-- 失败日志脚本配置。-->

对于失败的传输，会进行重新传送，如果再次失败就会写入指定的日志文件，随后会每隔一段时间（timeToExecute进行设定，默认为60分钟）执行该脚本再次重新传送，然后清空该脚本。可以使用path来设定日志路径。

  1.     <crontab start="false" schedule="600"><!--600mins--> <!-- 定时任务部分：定期整体同步功能。-->
  2.         <crontabfilter start="false">
  3.         <exclude expression="*.php"></exclude>
  4.         <exclude expression="info/*"></exclude>
  5.         </crontabfilter>
  6.     </crontab>
  7.     <plugin start="false" name="command"/>
  8.     </sersync>

定时任务能够对监测的路径与远端目标主机间每隔一段时间进行一次整体同步。因为有可能由于一些原因两次失败重传都失败了，这个时候如果开启了定时同步功能，还可进一步保证各个服务器文件的一致，如果同步的文件量比较大，则该部分的时间间隔要设的大一些，否则可能增加通讯开销，默认的间隔是600分钟。

如果开启了文件过滤功能，那么定时整体同步也需要设定相关过滤，否则虽然实时同步的时候进行了过滤，可整体同步的时候如果设置过滤内容，则还是会将需过滤的文件同步到远端。该处的过滤正则与上面的不同，也给出了两个实例分别对应与过滤文件与目录。总之，如果同时开启了实时同步的过滤功能及定时同步，那么则要开启定时同步的过滤功能，并按示例使其同前面的filter的内容相对应。

  1.     <plugin name="command">
  2.     <!--该部分是对插件的设定，不太常用。-->
  3.     <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->
  4.     <filter start="false">
  5.         <include expression="(.*)\.php"/>
  6.         <include expression="(.*)\.sh"/>
  7.     </filter>
  8.     </plugin>
  10.     <plugin name="socket">
  11.     <localpath watch="/opt/tongbu">
  12.         <deshost ip="192.168.138.20" port="8009"/>
  13.     </localpath>
  14.     </plugin>
  15.     <plugin name="refreshCDN">
  16.     <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
  17.         <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
  18.         <sendurl base="http://pic.xoyo.com/cms"/>
  19.         <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
  20.     </localpath>
  21.     </plugin>
  22. </head>

3. 开始使用

指令常用选项：

同步目的端启用rsync服务（操作请见相关文档）。

  1. [root@Node-A5 ~]# mkdir -p /opt/tongbu
  2. [root@Node-A5 ~]# echo oldboy > /etc/rsync.password
  3. [root@Node-A5 ~]# chmod 600 /etc/rsync.password
  4. -------------
  5. # Start the service:
  6. [root@Node-A5 tongbu]# /usr/local/sersync/sersync2 -r -d -o /usr/local/sersync/confxml.xml
  7. set the system param
  8. execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
  9. execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
  10. parse the command param
  11. option: -r  rsync all the local files to the remote servers before the sersync work
  12. option: -d  run as a daemon
  13. option: -o  config xml name：  /usr/local/sersync/confxml.xml
  14. daemon thread num: 10     # 默认启动了10个线程。
  15. parse xml config file
  16. host ip : localhost host port: 8008
  17. daemon start，sersync run behind the console 
  18. use rsync password-file :
  19. user is rsync_backup
  20. passwordfile is     /etc/rsync.password
  21. config xml parse success
  22. please set /etc/rsyncd.conf max connections=0 Manually
  23. sersync working thread 12  = 1(primary thread) + 1(fail retry thread) + 10(daemon sub threads)
  24. # 对工作线程数的解释：1个主线程 + 1个失败线程 + 10个子线程。
  25. Max threads numbers is: 22 = 12(Thread pool nums) + 10(Sub threads)
  26. please according your cpu ，use -n param to adjust the cpu rate
  27. ------------------------------------------
  28. rsync the directory recursivly to the remote servers once
  29. working please wait...
  30. execute command: cd /opt/tongbu && rsync -artuz -R --delete ./ rsync_backup@172.16.1.26::oldboy --password-file=/etc/rsync.password >/dev/null 2>&1 
  31. run the sersync: 
  32. watch path is: /opt/tongbu
添加新批注
在作者公开此批注前，只有你和作者可见。
回复批注