用rsync实现网站镜像和备份.docx
- 文档编号:4870670
- 上传时间:2022-12-11
- 格式:DOCX
- 页数:21
- 大小:28.61KB
用rsync实现网站镜像和备份.docx
《用rsync实现网站镜像和备份.docx》由会员分享,可在线阅读,更多相关《用rsync实现网站镜像和备份.docx(21页珍藏版)》请在冰豆网上搜索。
用rsync实现网站镜像和备份
用rsync实现网站镜像和备份
简介
对于选择Linux作为应用平台的的中小型企业或网站来说,往往面临如何实现数据远程备份或者网站镜象的问题,虽然有商业化的备份和镜象产品可供选择,但这些产品的价格往往过于昂贵。
因此如何利用自由软件高效实现远程备份和网站镜象就成为一个值得讨论的话题。
通过网络进行远程数据备份或者网站镜象的最简单的方法就是使用wget,但是这种方式每次都需要将所有数据都重新在网络上传输一遍,而不考虑哪些文件是经过更新的,因此效率非常低下。
尤其在需要备份的数据量很大的时候,往往需要花费数个小时来在网络上进行数据传输。
因此这里就介绍一种高效的网络远程备份和镜象工具-rsync,它可以满足绝大多数要求不是特别严格的备份需求。
rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了——remotesync。
它的特性如下:
可以镜像保存整个目录树和文件系统。
可以很容易做到保持原来文件的权限、时间、软硬链接等等。
无须特殊权限即可安装。
优化的流程,文件传输效率高。
可以使用rcp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
支持匿名传输,以方便进行网站镜象。
软件下载
rysnc的主页地址为:
http:
//rsync.samba.org/
目前最新版本为2.4.6。
可以选择从原始网站下载:
http:
//rsync.samba.org/ftp/rsync/。
也可以选择从本站下载:
rsync2.4.6。
编译安装
rsync的编译安装非常简单,只需要以下简单的几步:
[root@wwwrsync-2.4.6]#./configure
[root@wwwrsync-2.4.6]#make
[root@wwwrsync-2.4.6]#makeinstall
但是需要注意的是必须在服务器A和B上都安装rsync,其中A服务器上是以服务器模式运行rsync,而B上则以客户端方式运行rsync。
这样在web服务器A上运行rsync守护进程,在B上定时运行客户程序来备份web服务器A上需要备份的内容。
rsync服务器
1、rsync服务器的启动
在web服务器A上需要以守护进程方式来启动rsync服务器,只需要运行:
[root@wwwrsync-2.4.6]#/usr/local/bin/rsync--daemon
即可启动。
rsync默认服务端口为873,服务器在该端口接收客户的匿名或者认证方式的备份请求。
如果要在启动时把服务起来,有几种不同的方法,比如:
a、加入inetd.conf
编辑/etc/services,加入rsync873/tcp,指定rsync的服务端口是873。
编加/etc/inetd.conf,加入rsyncstreamtcpnowaitroot/bin/rsyncrsync--daemon
注:
对于xinetd,设置方法类似。
b、加入rc.local
编辑/etc/rc.d/rc.local,在最后添加:
/usr/local/bin/rsync--daemon
2、rsync的配置
对于rsync服务器来说,最重要和复杂的就是它的配置了。
rsync服务器的配置文件为/etc/rsyncd.conf,其控制认证、访问、日志记录等等。
该文件是由一个或多个模块结构组成。
一个模块定义以方括弧中的模块名开始,直到下一个模块定义开始或者文件结束,模块中包含格式为name=value的参数定义。
每个模块其实就对应需要备份的一个目录树,比方说在我们的实例环境中,有三个目录树需要备份:
/www/、/home/web_user1/和/home/web_user2/,那么就需要在配置文件中定义三个模块,分别对应三个目录树。
配置文件是行为单位的,也就是每个新行都表示一个新的注释、模块定义或者参数赋值。
以#开始的行表示注释,以"\"结束的行表示下面一行是该行的继续。
参数赋值中等号后可能是一个大小写不敏感的字符串、一个以trure/false表示的布尔值。
全局参数
在文件中[modlue]之前的所有参数都是全局参数,当然也可以在全局参数部分定义模块参数,这时候该参数的值就是所有模块的默认值。
motdfile
"motdfile"参数用来指定一个消息文件,当客户连接服务器时该文件的内容显示给客户,默认是没有motd文件的。
logfile
"logfile"指定rsync的日志文件,而不将日志发送给syslog。
pidfile
指定rsync的pid文件。
syslogfacility
指定rsync发送日志消息给syslog时的消息级别,常见的消息级别是:
uth,authpriv,cron,daemon,ftp,kern,lpr,mail,news,security,sys-log,user,uucp,local0,local1,local2,local3,local4,local5,local6和local7。
默认值是daemon。
模块参数
在全局参数之后就需要定义一个或多个模块了,模块中可以定义以下参数:
comment
给模块指定一个描述,该描述连同模块名在客户连接得到模块列表时显示给客户。
默认没有描述定义。
path
指定该模块的供备份的目录树路径,该参数是必须指定的。
usechroot
如果"usechroot"指定为true,那么rsync在传输文件以前首先chroot到path参数所指定的目录下。
这样做的原因是实现额外的安全防护,但是缺点是需要以roots权限,并且不能备份指向外部的符号连接所指向的目录文件。
默认情况下chroot值为true。
maxconnections
指定该模块的最大并发连接数量以保护服务器,超过限制的连接请求将被告知随后再试。
默认值是0,也就是没有限制。
lockfile
指定支持maxconnections参数的锁文件,默认值是/var/run/rsyncd.lock。
readonly
该选项设定是否允许客户上载文件。
如果为true那么任何上载请求都会失败,如果为false并且服务器目录读写权限允许那么上载是允许的。
默认值为true。
list
该选项设定当客户请求可以使用的模块列表时,该模块是否应该被列出。
如果设置该选项为false,可以创建隐藏的模块。
默认值是true。
uid
该选项指定当该模块传输文件时守护进程应该具有的uid,配合gid选项使用可以确定哪些可以访问怎么样的文件权限,默认值是"nobody"。
gid
该选项指定当该模块传输文件时守护进程应该具有的gid。
默认值为"nobody"。
exlude
用来指定多个由空格隔开的多个模式列表,并将其添加到exclude列表中。
这等同于在客户端命令中使用--exclude来指定模式,不过配置文件中指定的exlude模式不会传递给客户端,而仅仅应用于服务器。
一个模块只能指定一个exlude选项,但是可以在模式前面使用"-"和"+"来指定是exclude还是include。
但是需要注意的一点是该选项有一定的安全性问题,客户很有可能绕过exlude列表,如果希望确保特定的文件不能被访问,那就最好结合uid/gid选项一起使用。
exludefrom
指定一个包含exclude模式的定义的文件名,服务器从该文件中读取exlude列表定义。
include
用来指定多个由空格隔开的多个rsync并应该exlude的模式列表。
这等同于在客户端命令中使用--include来指定模式,结合include和exlude可以定义复杂的exlude/include规则。
一个模块只能指定一个include选项,但是可以在模式前面使用"-"和"+"来指定是exclude还是include。
includefrom
指定一个包含include模式的定义的文件名,服务器从该文件中读取include列表定义。
authusers
该选项指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。
这里的用户和系统用户没有任何关系。
如果"authusers"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。
用户的名和密码以明文方式存放在"secretsfile"选项指定的文件中。
默认情况下无需密码就可以连接模块(也就是匿名方式)。
secretsfile
该选项指定一个包含定义用户名:
密码对的文件。
只有在"authusers"被定义时,该文件才有作用。
文件每行包含一个username:
passwd对。
一般来说密码最好不要超过8个字符。
没有默认的securesfile名,需要限式指定一个。
(例如:
/etc/rsyncd.secrets)
strictmodes
该选项指定是否监测密码文件的权限,如果该选项值为true那么密码文件只能被rsync服务器运行身份的用户访问,其他任何用户不可以访问该文件。
默认值为true。
hostsallow
该选项指定哪些IP的客户允许连接该模块。
客户模式定义可以是以下形式:
oxxx.xxx.xxx.xxx,客户主机只有完全匹配该IP才允许访问。
例如:
192.167.0.1
oa.b.c.d/n,属于该网络的客户都允许连接该模块。
例如:
192.168.0.0/24
oa.b.c.d/e.f.g.h,属于该网络的客户都允许连接该模块。
例如:
192.168.0.0/255.255.255.0
o一个主机名,客户主机只有拥有该主机名才允许访问,例如:
。
o*,所有属于该域的主机都允许。
默认是允许所有主机连接。
hostsdeny
指定不允许连接rsync服务器的机器,可以使用hostsallow的定义方式来进行定义。
默认是没有hostsdeny定义。
ignoreerrors
指定rsyncd在判断是否运行传输时的删除操作时忽略server上的IP错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题。
ignorenonreadable
指定rysnc服务器完全忽略那些用户没有访问权限的文件。
这对于在需要备份的目录中有些文件是不应该被备份者得到的情况是有意义的。
transferlogging
使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中。
logformat
通过该选项用户在使用transferlogging可以自己定制日志文件的字段。
其格式是一个包含格式定义符的字符串,可以使用的格式定义符如下所示:
o%h远程主机名
o%a远程IP地址
o%l文件长度字符数
o%p该次rsync会话的进程id
o%o操作类型:
"send"或"recv"
o%f文件名
o%P模块路径
o%m模块名
o%t当前时间
o%u认证的用户名(匿名时是null)
o%b实际传输的字节数
o%c当发送文件时,该字段记录该文件的校验码
默认log格式为:
"%o%h[%a]%m(%u)%f%l",一般来说,在每行的头上会添加"%t[%p]"。
在源代码中同时发布有一个叫rsyncstats的perl脚本程序来统计这种格式的日志文件。
timeout
通过该选项可以覆盖客户指定的IP超时时间。
通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户。
超时单位为秒钟,0表示没有超时定义,这也是默认值。
对于匿名rsync服务器来说,一个理想的数字是600。
refuseoptions
通过该选项可以定义一些不允许客户对该模块使用的命令参数列表。
这里必须使用命令全名,而不能是简称。
但发生拒绝某个命令的情况时服务器将报告错误信息然后退出。
如果要防止使用压缩,应该是:
"dontcompress=*"。
dontcompress
用来指定那些不进行压缩处理再传输的文件,默认值是
*.gz*.tgz*.zip*.z*.rpm*.deb*.iso*.bz2*.tbz
rsync客户命令
在对rsync服务器配置结束以后,下一步就需要在客户端发出rsync命令来实现将服务器端的文件备份到客户端来。
rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。
首先,rsync的命令格式可以为:
rsync[OPTION]...SRC[SRC]...[USER@]HOST:
DEST
rsync[OPTION]...[USER@]HOST:
SRCDEST
rsync[OPTION]...SRC[SRC]...DEST
rsync[OPTION]...[USER@]HOST:
:
SRC[DEST]
rsync[OPTION]...SRC[SRC]...[USER@]HOST:
:
DEST
rsync[OPTION]...rsync:
//[USER@]HOST[:
PORT]/SRC[DEST]
rsync有六种不同的工作模式:
拷贝本地文件;当SRC和DES路径信息都不包含有单个冒号":
"分隔符时就启动这种工作模式。
使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。
当DST路径地址包含单个冒号":
"分隔符时启动该模式。
使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。
当SRC地址路径包含单个冒号":
"分隔符时启动该模式。
从远程rsync服务器中拷贝文件到本地机。
当SRC路径信息包含":
:
"分隔符时启动该模式。
从本地机器拷贝文件到远程rsync服务器中。
当DST路径信息包含":
:
"分隔符时启动该模式。
列远程机的文件列表。
这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。
1、用法
在使用rsync传输文件时,需要指定一个源和一个目的,其中一个可能是远程机器的资源信息。
例如:
rsync*.cfoo:
src/
表示将传输当前目录下所有以.c结尾的文件到机器foo的src目录下。
如果任何文件已经存在于远程系统,则会调用远程更新协议来实现仅仅传输那些更新过的文件。
rsync-avzfoo:
src/bar/data/tmp
该命令则递归地传输机器foo上的src/bar目录下的所有内容到本地/data/tmp/bar目录中。
文件以归档模式进行传输,以确保符号链结、属性、权限、属主等信息在传输中都被保存。
此外,可以使用压缩技术来加快数据传输:
rsync-avzfoo:
src/bar//data/tmp
路径信息以"/"结尾时表示拷贝该目录,而不以"/"结尾表示拷贝该目录。
当配合使用--delete选项时这两种情况的区别将会表现出来。
也可以以本地模式来使用rsync,如果SRC和DST路径中都没有任何":
"符号则表示该命令运行在本地模式,等同于cp命令。
rsync:
:
这种模式则将会列出.可以访问的所有模块信息。
选项说明
-v,--verbose详细模式输出
-q,--quiet精简输出模式
-c,--checksum打开校验开关,强制对文件传输进行校验
-a,--archive归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r,--recursive对子目录以递归模式处理
-R,--relative使用相对路径信息
rsyncfoo/bar/foo.cremote:
/tmp/
则在/tmp目录下创建foo.c文件,而如果使用-R参数:
rsync-Rfoo/bar/foo.cremote:
/tmp/
则会创建文件/tmp/foo/bar/foo.c,也就是会保持完全路径信息。
-b,--backup创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX定义备份文件前缀
-u,--update仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。
(不覆盖更新的文件)
-l,--links保留软链结
-L,--copy-links想对待常规文件一样处理软链结
--copy-unsafe-links仅仅拷贝指向SRC路径目录树以外的链结
--safe-links忽略指向SRC路径目录树以外的链结
-H,--hard-links保留硬链结
-p,--perms保持文件权限
-o,--owner保持文件属主信息
-g,--group保持文件属组信息
-D,--devices保持设备文件信息
-t,--times保持文件时间信息
-S,--sparse对稀疏文件进行特殊处理以节省DST的空间
-n,--dry-run现实哪些文件将被传输
-W,--whole-file拷贝文件,不进行增量检测
-x,--one-file-system不要跨越文件系统边界
-B,--block-size=SIZE检验算法使用的块尺寸,默认是700字节
-e,--rsh=COMMAND指定替代rsh的shell程序
--rsync-path=PATH指定远程服务器上的rsync命令所在路径信息
-C,--cvs-exclude使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete删除那些DST中SRC没有的文件
--delete-excluded同样删除接收端那些被该选项指定排除的文件
--delete-after传输结束以后再删除
--ignore-errors及时出现IO错误也进行删除
--max-delete=NUM最多删除NUM个文件
--partial保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force强制删除目录,即使不为空
--numeric-ids不将数字的用户和组ID匹配为用户名和组名
--timeout=TIMEIP超时时间,单位为秒
-I,--ignore-times不跳过那些有同样的时间和长度的文件
--size-only当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM决定文件是否时间相同时使用的时间戳窗口,默认为0
-T--temp-dir=DIR在DIR中创建临时文件
--compare-dest=DIR同样比较DIR中的文件来决定是否需要备份
-P等同于--partial
--progress显示备份过程
-z,--compress对备份的文件在传输时进行压缩处理
--exclude=PATTERN指定排除不需要传输的文件模式
--include=PATTERN指定不排除而需要传输的文件模式
--exclude-from=FILE排除FILE中指定模式的文件
--include-from=FILE不排除FILE指定模式匹配的文件
--version打印版本信息
--address绑定到特定的地址
--config=FILE指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT指定其他的rsync服务端口
--blocking-io对远程shell使用阻塞IO
-stats给出某些文件的传输状态
--progress在传输时现实传输过程
--log-format=FORMAT指定日志文件格式
--password-file=FILE从FILE中得到密码
--bwlimit=KBPS限制I/O带宽,KBytespersecond
-h,--help显示帮助信息
实例分析
这里假设有两台服务器:
A和B。
其中A是主web服务器,具有域名(202.99.11.120),B服务器是备份机,其域名为(202.99.11.121)。
其中A的web内容存放在以下几个地方:
/www/和/home/web_user1/和/home/web_user2/。
我们需要在备份机B上建立对这几个目录内容的备份。
服务器配置实例
那么在上创建rsyncd的配置文件/etc/rsyncd.conf,内容如下:
uid=nobody
gid=nobody
usechroot=no
maxconnections=4
pidfile=/var/run/rsyncd.pid
lockfile=/var/run/rsync.lock
logfile=/var/log/rsyncd.log
[www]
path=/www/
ignoreerrors
readonly=true
list=false
hostsallow=202.99.11.121
hostsdeny=0.0.0.0/32
authusers=backup
secretsfile=/etc/backserver.pas
[web_user1]
path=/home/web_user1/
ignoreerrors
readonly=true
list=false
hostsallow=202.99.11.121
hostsdeny=0.0.0.0/32
uid=web_user1
gid=web_user1
authusers=backup
secretsfile=/etc/backserver.pas
[web_user2]
path=/home/web_user2/
ignoreerrors
readonly=true
list=false
hostsallow=202.99.11.121
hostsdeny=0.0.0.0/32
uid=web_user2
gid=web_user2
authusers=backup
secretsfile=/etc/backserver.pas
这里定义有四个三个模块,分别对应于三个需要备份的目录树。
这里只允许202.99.11.121备份本机的数据,并且需要认证。
三个模块授权的备份用户都为backup,并且用户信息保存在文件/etc/backserver.pas中,其内容如下:
backup:
bk_passwd
并且该文件只能是root用户可读写的,否则rsyncd启动时会出错。
这些文件配置完毕以后,就
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- rsync 实现 网站 备份