rsyncd 服务

命令格式

rsync [OPTION]... SRC DEST
rsync [OPTION]... SRC [USER@]host:DEST
rsync [OPTION]... [USER@]HOST:SRC DEST
rsync [OPTION]... [USER@]HOST::SRC DEST
rsync [OPTION]... SRC [USER@]HOST::DEST
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

: ssh 方式进行备份,ssh 非默认端口使用选项 -e 指定端口, -e 'ssh -p 30000'

:: socket 方式进行备份,rsync 以服务方式监听,SRC/DEST 为配置中定义的模块 []

  • rsync 命令使用中,如果源参数的末尾有斜线,只会复制指定目录的内容,而不复制目录本身,没有斜线,则会复制目录本身,包括目录
  • 客户端免密登录时,需要在客户端建立密码文件: /etc/rsync.passwd,文件中只保存密码,权限为600,用选项 --password-file 指明存放密码的文件位置

常用选项

选项 说明 示例
-v, --verbose 详细模式输出。
-q, --quiet 精简输出模式。
-c, --checksum 打开校验开关,强制对文件传输进行校验。
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于 -rlptgoD
-r, --recursive 对子目录以递归模式处理。
-R, --relative 使用相对路径信息。
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为 ~filename 。可以使用 --suffix 选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如 ~filename)存放在在目录下。
--suffix=SUFFIX 定义备份文件前缀。
-u, --update 仅仅进行更新,也就是跳过所有已经存在于 DST,并且文件时间晚于要备份的文件,不覆盖更新的文件。
-l, --links 保留软链结。
-L, --copy-links 想对待常规文件一样处理软链结。
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结。
--safe-links 忽略指向SRC路径目录树以外的链结。
-H, --hard-links 保留硬链结。
-p, --perms 保持文件权限。
-o, --owner 保持文件属主信息。
-g, --group 保持文件属组信息。
-D, --devices 保持设备文件信息。
-t, --times 保持文件时间信息。
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间。
-n, --dry-run 只显示哪些文件将被传输,不进行真正的传输。
-w, --whole-file 拷贝文件,不进行增量检测。
-x, --one-file-system 不要跨越文件系统边界。
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节。
-e, --rsh=command 指定使用rsh、ssh方式进行数据同步。
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息。
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件。
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件。
--delete 删除那些DST中存在,而SRC没有的文件。
--delete-excluded 同样删除接收端那些被该选项指定排除的文件。
--delete-after 传输结束以后再删除。
--ignore-errors 及时出现IO错误也进行删除。
--max-delete=NUM 最多删除NUM个文件。
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输。
--force 强制删除目录,即使不为空。
--numeric-ids 不将数字的用户和组 id 匹配为用户名和组名。
--timeout=time ip 超时时间,单位为秒。
-I, --ignore-times 不跳过那些有同样的时间和长度的文件。
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间。
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0。
-T ,--temp-dir=DIR 在DIR中创建临时文件。
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份。
-P 等同于 --partial
--progress 显示传输过程。
-z, --compress 对备份的文件在传输时进行压缩处理。
--exclude PATTERN 指定排除不需要传输的文件模式。支持通配符
--include PATTERN 指定不排除而需要传输的文件模式。
--exclude-from=FILE 排除FILE中指定模式的文件。
--include-from=FILE 不排除FILE指定模式匹配的文件。
--version 打印版本信息。
--address 绑定到特定的地址。
--config=FILE 指定其他的配置文件,不使用默认的 rsyncd.conf 文件。
--port=PORT 指定其他的 rsync 服务端口。
--blocking-io 对远程shell使用阻塞IO。
--stats 给出某些文件的传输状态。
--log-format=formAT 指定日志文件格式。
--password-file=FILE 从FILE中得到密码。
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
-h, --help 显示帮助信息。

rsyncd 配置文件示例

#<==该选项指定当模块传输文件时守护进程应该具有的uid、gid
uid =root
gid = root
port = 873
##消息文件,客户端连接服务器的时显示给客户端
#motd file = /etc/rsyncd.motd
#<==安全相关
use chroot = no
#<==设置最大连接数
max connections = 200
#<==设置超时时间
timeout = 300
#<==定义进程文件
pid file = /var/run/rsyncd.pid
#<==定义锁文件
lock file = /var/run/rsync.lock
#<==定义日志文件
log file = /var/log/rsyncd.log
##关闭解析
reverse lookup = no

#<==配置一个数据存储的模块
[backup]
#<==模块备份数据路径
path = /data/www/videos/
ignore errors
read only = false
list = false
#<==配置登录权限,可以多个IP网段用逗号隔开
#hosts allow = 172.16.1.0/24,172.25.1.0/24
#hosts deny = 0.0.0.0/32
#<==配置服务登录用户(访问服务的权限)
auth users = rsync
#<==配置用户和密码文件,权限必须600,用户名:密码格式
secrets file = /etc/rsync.server.password
##是否检查secrets file的权限
strict modes = yes

rsync 的过滤规则说明

rsync 过滤规则是用于定义哪些文件要传输(包含某些文件)哪些文件不要传输(排除某些文件)的一些规则。这些规则可以直接写在命令参数里,也可以写在规则文件里,然后由命令引用

与过滤规则有关的选项主要有:

  • --include=PATTERN : 设定一条包含规则,如: --include="*.php"
  • --exclude=PATTERN : 设定一条排除规则,如:--exclude="*"
  • --include-from=FILE : 指定一个文件,文件中一行一条包含规则,以 ;# 开头的行为注释,空行被忽略
  • --exclude-from=FILE : 指定一个文件,文件中一行一条排除规则,以 ;# 开头的行为注释,空行被忽略
  • --filter=RULE, -f : 设定一条过滤规则,可能是排除或包含规则(如:-f "- *.php" ),也可能其它类型的规则(如包含一个规则文件 -f ". ./rsync.rules"

这些选项配置的规则,其本质是一样,只是描述方式有些差异。其中 --filter=RULE, -f 选项支持完整的规则表达语法,其它的选项都可以转化为此选项的表达。举例如下:

rsync -av --include="*.php" --exclude="*" src_dir/ dst_dir/
rsync -av -filter "+ *.php" -filter "- *" src_dir/ dst_dir/
rsync -av -f "+ *.php" -f "- *" src_dir/ dst_dir/

以上的命令是完全等价的,-f 方式更简单
--include="xxx" 等价于 -f "+ xxx"
--exclude="xxx" 等价于 -f "- xxx"

--include-from--exclude-from 选项引入的规则文件,相当于每个规则前面自动加了 +-。其规则文件内容举例如下:

# --include-from 或 --exclude-from 引用的规则文件,开头没有 + 或 -
*.php
*

过滤规则的工作方式

所有的过滤规则配置最终在 rsync 内部会形成一个有序的规则列表,在命令行中靠前选项,其规则的排序也靠前。随着要传输的(文件/目录路径)列表的构建,针对每个路径,rsync 会依次读取有序规则列表中的规则进行检查。当第一个规则匹配成功后,立即进行操作(包含或排除),并停止后面规则的检查;若所有规则都不不匹配,此路径默认为包含。若有递归选项时(如 -r -a),如果子目录被规则排除,那么 rsync 不会递归检查此目录的内容了,也就是此目录下的文件和目录不会进行规则过滤也不会传输,相当于整个子目录都排除了。简单总结如下:

  1. 规则有顺序,顺序同命令中参数配置顺序(从左到右)
  2. 扫描文件系统,读取(目录或文件的)路径后马上进行规则检查,确定包含还是排除
  3. 规则检查按序进行,若有命中立即包含或排除,并停止后续规则检查;若无规则命中,默认为包含
  4. 目录被排除时,其下所有子目录和文件都被排除

此命令会同步 src_dir 目录下的所有 php 文件(不包含子目录的
因为 src_dir 目录下每个文件和目录路径都会先由 -f "+ *.php" 规则检查,php 文件符合此规则就被包含了,后面的 -f "- *" 规则不会检查了
其余类型的文件和子目录,不符合第一个规则,继续检查第二个规则时,都被排除了
子目录被排除后,其中即使有 php 文件,也不会被检查,所以此命令不会同步 src_dir 目录下子目录中的 php 文件

rsync -av -f "+ *.php" -f "- *" src_dir/ dst_dir/

调换两个参数的顺序,则完全不一样了
此命令将不会同步任何文件和目录
因为第一条规则把所有文件和目录到排除了,第二条规则没有机会生效

rsync -av -f "- *" -f "+ *.php" src_dir/ dst_dir/

此命令会同步 src_dir 目录下的所有 php 文件(包含子目录的
规则 -f "+ */" 会匹配并包含所有子目录路径,所以 rsync 会检查所有的子目录,然后其中的 php 文件被包含了

rsync -av -f "+ *.php" -f "+ */" -f "- *" src_dir/ dst_dir/

过滤规则的配置语法

过滤规则的配置语法如下:

操作 [匹配模式]
操作,修饰符 [匹配模式]

常用操作:

操作 说明 示例
+ 包含 -f "+ *.php"
- 排除 -f "- *.php"
. 包含规则文件 -f ". ./rsync.rules"

常用修饰符:

修饰符 说明 示例
! 否定,对匹配结果进行取反,把匹配成功当做匹配失败,把匹配失败当做匹配成功 -f "-! *.php"

常见匹配模式:

匹配模式 说明 示例
/*.php 模式以 / 开头时,表示模式必须匹配路径的开始;否则可以匹配路径中任意一层名称
config/ 模式以 / 结尾时,表示模式只匹配目录,否则可以匹配目录或文件
subdir/view.php 模式中间的 / 表示路径分隔符
* 匹配任意长度的任意字符,但不匹配 /
** 结尾时匹配任意长度的任意字符(包括 / app/** 匹配路径 app/xx/xx/a.txt
*** 结尾时匹配任意长度的任意字符(包括 /),还包括目录本身。 app/*** 匹配路径 appxxx/app
? 匹配 / 以外的任意一个字符
[] 匹配一个某一类字符 [a-z] 匹配一个小写字母,[0-9] 匹配一个数字

模式默认必须匹配到路径的末尾。如:foo 匹配 fooxx/foo,但不匹配 xx/foo1foo/xx
路径被匹配的部分必须是包含完整的(目录或文件)名称,不可从名称中间切开。如:foo 不匹配 xxx/afooabc/foo 不匹配 subdir/aabc/foo
默认是包含所有文件和目录

常用命令示例

测试同步结果

如果不确定 rsync 执行的结果,可以不写目标目录,这样不会同步数据,只会输出要同步的目录和文件列表。

rsync -a --exclude 'file.txt' src_dir/

或者使用选项 --dry-run, -n,模拟实际的运行效果,但不真的执行同步

rsync -a --dry-run --exclude 'file.txt' src_dir/ dst_dir/

ssh 模式同步,默认 ssh 端口非 22 时指定 ssh 端口,使用 -e 'ssh -p 222' 选项

rsync -e 'ssh -p 222' /data/wwwroot/  rsync@9.9.9.9:/home/wwwroot/

Windows 中使用方式,以类似 /cygdrive/d/ 的方式指定 d 盘

rsync -c -r -u -t --timeout=300 -z --password-file C:\rsyncPasswd.txt /cygdrive/d/DATA/ rsync@0.0.0.0::zy/

同步过程中忽略(跳过)指定文件(目录)

要排除特定文件,请将文件的相对路径传递给 --exclude 选项

rsync -a --exclude 'file.txt' src_dir/ dst_dir/
rsync -a -f '- file.txt' src_dir/ dst_dir/

排除特定目录与排除文件相同,只需将目录的相对路径传递给 --exclude 选项

rsync -a --exclude 'dir1' src_dir/ dst_dir/
rsync -a -f '- dir1' src_dir/ dst_dir/

如果要排除目录内容,但不排除目录本身,请使用 dir1/* 而不是 dir1

rsync -a --exclude 'dir1/*' src_dir/ dst_dir/
rsync -a -f '- dir1/*' src_dir/ dst_dir/

要排除多个文件或目录,只需指定多个 --exclude 选项, 或使用 {} 包含多个目标项

rsync -a --exclude 'f1.txt' --exclude 'dir1/*' --exclude 'dir2' src_dir/ dst_dir/
rsync -a --exclude={'f1.txt','dir1/*','dir2'} src_dir/ dst_dir/
rsync -a -f '- f1.txt' -f '- dir1/*' -f '- dir2' src_dir/ dst_dir/

通配符排除多个文件,例如要排除所有 jpg 类型的文件

rsync -a --exclude '*.jpg*' src_dir/ dst_dir/
rsync -a -f '- *.jpg*' src_dir/ dst_dir/

windows 安装 rsync 客户端

windows 下 rsync客户端使用 cwRsync
下载地址:
官网链接
其他地址

下载解压安装包后,目录内容如下:

bin 目录下包含常用命令,其中 rsync 命令和 linux 中使用方法相同

参考链接

rsync命令过滤规则入门教程
Rsync 命令