2.Rsync备份服务
1.Rsync基本概述
rsync是一款开源、快速、多功能、可实现全量及增量的本地或远程数据同步备份的优秀工具。rsync软件适用于Unix/linux/Windows等多种操做系统平台。linux
rsync 简介
rsync英文称为remote synchronizetion，从软件的名称就能够看出来，rsync具备可以使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能，这个功能相似于**ssh带的scp命令，可是又优于scp命令的功能**，**scp每次都是全量拷贝，而rsync能够增量拷贝**。固然，rsync还能够在本地主机的不一样分区或目录之间全量及曾量的复制数据，这又相似cp命令。可是一样也优于cp命令，cp每次都是全量拷贝，而rsync能够增量拷贝。 在同步数据的时候，默认状况下，rsync经过其独特的“quick check”算法，它仅同步大小或者最后修改时间发生变化的文件或目录，固然也可根据权限、属主等属性的变化同步，可是须要制定相应的参数，甚至能够实现只同步一个文件里有变化的内容部分，因此，但是实现快速的同步备份数据。
rsync监听端口：873web
rsync运行模式：C/S算法
client/servershell
客户端/服务端vim
小提示：利用rsync还能够实现删除文件和目录的功能，这又至关于rm命令，一个rsync至关于scp、cp、rm，可是还优于他们的每个命令。windows
Rsync的特性
支持拷贝特殊文件，如链接文件、设备等。 能够有排除指定文件或目录同步的功能，至关于打包命令tar的排除功能。 能够作到保持原文件或目录的权限、时间、软硬连接、属主、组等全部属性均不改变 –p。 能够实现增量同步，既只同步发生变化的数据，所以数据传输效率很高（tar-N）。 可使用rcp、rsh、ssh等方式来配合传输文件（rsync自己不对数据加密）。 能够经过socket（进程方式）传输文件和数据（服务端和客户端）。 支持匿名的活认证（无需系统用户）的进程模式传输，能够实现方便安全的进行数据备份和镜像。
生产场景架构集群备份方案
1.借助cron+rsync把全部客户服务器数据同步到备份服务器。 2.针对公司重要数据备份混乱情况和领导提出备份全网数据的解决方案。 3.经过本地打包备份，而后rsync结合`inotify`应用把全网数统一备份到一个固定存储服务器，而后在存储服务器上经过脚本检查并报警管理员备份结果。 4.按期将IDC机房的数据 备份公司的内部服务器，防止机房地震及火灾问题致使数据丢失。 5.实时同步，解决存储服务器等的单点问题。
备份的类型
全备安全
将数据所有备份下来:全量备份，将客户端全部的数据内容所有备份至服务端 (效率低下, 占用空间)bash
增备服务器
全备以后新增的数据，备份下来:增量备份，将客户端的增量备份至服务端 (提升备份效率,节省空间, 适合异地备份 )架构
2.Rsync的应用场景
Rsync的数据同步模式
1）推：全部主机推送本地数据至Rsync备份服务器，会致使数据同步缓慢(适合少许数据备份)
2）拉： rsync备份服务端拉取全部主机上的数据，会致使备份服务器开销大
3）大量数据备份场景
4）异地备份
3.Rsync的传输模式
本地方式
远程方式
守护进程
1）本地传输方式
单个主机本地之间的数据传输(此时相似于cp命令)
#本地拷贝数据命令
Local: rsync [OPTION...] SRC... [DEST]
#本地拷贝数据示例
[root@backup ~]# rsync -avz /etc/passwd /tmp/
rsync #备份命令(cp)
[options] #选项
SRC... #本地源文件
[DEST] #本地目标文件
[root@web01 ~]# rsync /etc/b.txt /tmp/
2）远程传输方式
经过ssh通道传输数据,相似scp命令`
#pull拉取数据命令
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
#push推送数据命令
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
#pull拉取数据示例
#拉取远程文件
[root@backup ~]# rsync -avz root@172.16.1.41:/etc/hostname ./
#拉取远程目录下的全部文件
[root@backup ~]# rsync -avz root@172.16.1.41:/root/ /backup/
#拉取远程目录以及目录下的全部文件
[root@backup ~]# rsync -avz root@172.16.1.41:/root /backup/
Pull #拉取, 下载
rsync #备份命令
[options] #选项
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
SRC... #目标主机源文件
[DEST] #下载至本地哪一个位置
#push推送数据示例
rsync -avz /backup/2018-10-01 root@172.16.1.41:/tmp/
Push #推送, 上传
rsync #备份命令
[options] #选项
SRC... #本地源文件
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
[DEST] #目标对应位置
pull拉: [root@web01 ~]# rsync -avz root@172.16.1.41:/tmp ./
push推: [root@web01 ~]# rsync -avz /var root@172.16.1.41:/tmp/
注意： rsync不论是推仍是拉，推送目录的时候带/和不带/
1.带/ ：/etc/ 将etc目录下的全部内容，推过去（拉过来）
2.不带/：/etc 将etc目录总体推过去（拉过来）
Rsync借助SSH协议同步数据存在的缺陷
1.使用系统用户（不安全）
2.使用普通用户（会致使权限不足状况）
3）守护进程传输方式
rsync自身很是重要的功能(不使用系统用户，更加安全)
#pull拉取数据命令 Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST] #push推送数据命令 Push: rsync [OPTION...] SRC... [USER@]HOST::DEST #1.拉取rsync备份服务的"backup模块"数据至本地/mnt目录 [root@nfs01 ~]# rsync -avz rsync_backup@192.172.16.1.41::backup/ /mnt/ --password-file=/etc/rsync.password rsync #命令 [OPTION...] #选项 [USER@] #远程主机用户(虚拟用户) HOST:: #远程主机地址 SRC... #远程主机模块(不是目录) [DEST] #将远程主机数据备份至本地什么位置 #2.将本地/mnt目录推送至rsync备份服务器的backup模块 [root@nfs01 ~]# rsync -avz /mnt/ rsync_backup@192.172.16.1.41::backup/ --password-file=/etc/rsync.password rsync #命令 [OPTION...] #选项 SRC... #远程主机模块(不是目录) [USER@] #远程主机用户(虚拟用户) HOST:: #远程主机地址 [DEST] #将远程主机模块备份至本地什么位置 rsync -avz /data/ rsync_backup@172.16.1.41::zls
4）Rsync命令对应选项
-a #归档模式传输, 等于-tropgDl -v #详细模式输出, 打印速率, 文件数量等 -z #传输时进行压缩以提升效率 -r #递归传输目录及子目录，即目录下得全部目录都一样传输。 -t #保持文件时间信息 -o #保持文件属主信息 -p #保持文件权限 -g #保持文件属组信息 -l #保留软链接 -P #显示同步的过程及传输时的进度等信息 -D #保持设备文件信息 -L #保留软链接指向的目标文件 -e #使用的信道协议,指定替代rsh的shell程序 --exclude=PATTERN #指定排除不须要传输的文件模式 --exclude-from=file #文件名所在的目录文件 --bwlimit=100 #限速传输 --partial #断点续传 --delete #让目标目录和源目录数据保持一致 --password-file=xxx #使用密码文件
rsync无差别同步
rsync -avz --delete rsync_backup@172.16.1.41::cm
rsync限速
rsync -avz --bwlimit=1024 /etc rsync_backup@172.16.1.41::cm
4.Rsync服务实践
| 主机名 | 外网IP | 内网IP | 角色 |
|---|---|---|---|
| backup | 10.0.0.41 | 172.16.1.41 | 服务端 |
| web01 | 10.0.0.7 | 172.16.1.7 | 客户端 |
| nfs01 | 10.0.0.31 | 172.16.1.31 | 客户端 |
4.1服务端配置
1）服务端安装rsync
[root@backup ~]# yum -y install rsync
2）服务端，修改配置文件
[root@backup ~]# cat /etc/rsyncd.conf uid = rsync gid = rsync port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.passwd log file = /var/log/rsyncd.log ##################################### [backup] comment = welcome to oldboyedu backup! path = /backup #配置详解 [root@backup ~]# vim /etc/rsyncd.conf uid = rsync #运行进程的用户名 gid = rsync #运行进程的用户组 port = 873 #监听端口 fake super = yes #无需让rsync以root身份运行 use chroot = no #禁锢推送的数据至某个目录，不容许跳出该目录 max connections = 200 #最大链接数200 timeout = 600 #超时时间600s 10分钟 ignore errors #忽略错误信息 read only = false #关闭只读 list = false #不容许查看模块信息 auth users = rsync_backup #定义虚拟用户，做为链接认证用户 secrets file = /etc/rsync.passwd #认证用户的密码文件 log file = /var/log/rsyncd.log #日志文件路径 ##################################### [cm] #模块(任意名字均可以) comment = welcome to oldboyedu backup! #注释信息（可有可无） path = /backup #定义接受备份数据路径
3）服务端（backup），建立用户
建立一个用来运行rsync服务的用户身份
#检查用户是否存在 [root@backup ~]# id rsync id: rsync: no such user #建立用户（不容许登陆，不建立家目录） [root@backup ~]# useradd rsync -s /sbin/nologin -M -s：指定登陆的shell -M：不建立家目录
4）服务端，建立一个备份目录
[root@backup ~]# mkdir /backup #受权rsync用户 [root@backup ~]# chown -R rsync.rsync /backup/
5）服务端，建立虚拟用户的密码文件
建立虚拟用户密码文件, 受权600安全权限(用于客户端链接时使用的用户)
#建立用户名和密码文件 [root@backup ~]# vim /etc/rsync.passwd rsync_backup:123456 #受权 [root@backup ~]# chmod 600 /etc/rsync.passwd
6）服务端，启动rsync服务，添加开机自启
[root@backup ~]# ll /usr/lib/systemd/system/rsyncd.service -rw-r--r-- 1 root root 237 Apr 26 01:17 /usr/lib/systemd/system/rsyncd.service #启动rsyncd守护进程 [root@backup ~]# systemctl start rsyncd #容许开机自启 [root@backup ~]# systemctl enable rsyncd
7）检查端口
[root@backup ~]# netstat -lntup Active Internet connections (only servers) Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 4758/rsync
4.2客户端配置
1）安装rsync
[root@web01 ~]# yum install -y rsync
2）建立虚拟用户的密码文件
Rsync客户端仅需配置虚拟用户的密码,并受权为600安全权限
#建立用户密码文件 [root@web01 ~]# vim /etc/rsync.pass 123456 或 echo 123456 >/etc/rsync.pass #受权 [root@web01 ~]# chmod 600 /etc/rsync.pass #免交互方式一： rsync -avz --password-file=/etc/rsync.pass #免交互方式二(脚本使用，推荐)： export RSYNC_PASSWORD=cm
4.3Rsync实战
实战一
[root@web01 ~]# mkdir /data
[root@web01 ~]# cd /data
[root@web01 data]# touch file{1..100}
[root@web01 data]# ll
推：客户端推送data目录下全部内容至Rsync服务端
#交互式，须要输入密码 [root@web01 ~]# rsync -avz /data/ rsync_backup@172.16.1.41::cm #非交互式 [root@web01 ~]# rsync -avz /data/ rsync_backup@172.16.1.41::cm --password-file=/etc/rsync.pass #查看 [root@backup ~]# ll /backup total 0 -rw-r--r-- 1 rsync rsync 0 Aug 1 20:07 file1 -rw-r--r-- 1 rsync rsync 0 Aug 1 20:07 file2 -rw-r--r-- 1 rsync rsync 0 Aug 1 20:07 file3 -rw-r--r-- 1 rsync rsync 0 Aug 1 20:07 file4 -rw-r--r-- 1 rsync rsync 0 Aug 1 20:07 file5
拉：客户端拉取Rsync服务端 backup模块数据至本地客户端的 /root目录
#交互式，须要输入密码 [root@web01 ~]# rsync -avz rsync_backup@172.16.1.41::cm /root/ #非交互式 [root@web01 ~]# rsync -avz rsync_backup@172.16.1.41::cm /root/ --password-file=/etc/rsync.pass #查看 [root@web01 ~]# ll -rw-r--r-- 1 root root 0 Aug 1 20:07 file1 -rw-r--r-- 1 root root 0 Aug 1 20:07 file2 -rw-r--r-- 1 root root 0 Aug 1 20:07 file3 -rw-r--r-- 1 root root 0 Aug 1 20:07 file4 -rw-r--r-- 1 root root 0 Aug 1 20:07 file5
报错：
1.客户端密码文件：600权限
2.服务端密码文件：600权限
3.客户端密码文件中，只写密码，不写用户
4.服务端密码文件中，用户:密码
5.服务端的/backup目录权限不是 rsync
chown -R rsync.rsync /backup
认证失败：
1.先检查配置文件：服务端：/etc/rsyncd.conf
[模块]
2.检查服务端，/etc/rsync.passwd文件的权限是否是600
3.再检查服务端，/etc/rsync.passwd文件的内容，是否是 用户名:密码
rsyncd.conf 里的 rsync_backup
4.再检查客户端，/etc/rsync.pass 权限600
5./etc/rsync.pass 内容只写密码
6.修改完配置文件要重启服务，[backup] [cm]
systemctl restart rsyncd
实战二
客户端需求
1.客户端提早准备存放的备份的目录，目录规则以下:/backup/nfs_172.16.1.31_2018-09-02
#安装ntpdate
yum install -y ntpdate
#实现第一部份内容，将备份的数据目录建立出来
[root@web01 ~]# vim rsync.sh
#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
mkdir -p /backup/$SRC #建立备份目录
#执行脚本
[root@web01 ~]# sh rsync.sh
#查看备份数据
[root@web01 ~]# ll /backup/
total 0
drwxr-xr-x 2 root root 6 Aug 2 19:00 web01_172.16.1.7_2019-08-02
2.客户端在本地打包备份(系统配置文件、应用配置等)拷贝至/backup/nfs_172.16.1.31_2018-09-02
[root@web01 ~]# vim rsync.sh
#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
mkdir -p /backup/$SRC
tar zcf /backup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null #打包备份至/backup/nfs_172.16.1.31_2018-09-02/下
3.客户端最后将备份的数据进行推送至备份服务器
[root@web01 ~]# vim rsync.sh
#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
export RSYNC_PASSWORD=123456 #设置免交互密码
mkdir -p /backup/$SRC
tar zcf /backup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null
rsync -az /backup/ rsync_backup@172.16.1.41::cm #将备份数据推送至备份服务器
测试命令：
[root@web01 ~]# for n in `seq -w 30`;do date -s "201908$n";sh rsync.sh;done
4.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间
[root@web01 ~]# vim rsync.sh
#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
export RSYNC_PASSWORD=123456
mkdir -p /backup/$SRC
tar zcf /backup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null
md5sum /backup/${SRC}/conf_${DATE}.tar.gz > /backup/res7.txt #校验打包结果放入/backup目录下
rsync -az /backup/ rsync_backup@172.16.1.41::cm
find /backup/ -type d -mtime +7 |xargs rm -fr #保留最近7天的数据
#定义变量
[root@web01 ~]# H=`hostname`
[root@web01 ~]# IP=`ifconfig eth1 |awk 'NR==2{print $2}'`
[root@web01 ~]# DATE=`date +%F`
[root@web01 ~]# SRC=${H}_${IP}_${DATE}
#校验打包是否成功
[root@web01 ~]# md5sum /backup/${SRC}/conf_${DATE}.tar.gz
1c7529d288ee10f18e59d8ad93e770f7 /backup/web01_172.16.1.7_2019-08-04/conf_2019-08-04.tar.gz
#将校验结果放入/backup目录下
[root@web01 ~]# md5sum /backup/${SRC}/conf_${DATE}.tar.gz > /backup/res.txt
5.客户端天天凌晨1点定时执行该脚本
[root@web01 ~]# crontab -e #天天凌晨一点备份重要数据 By:cm At:2019-08-02 00 01 * * * /bin/sh /root/rsync.sh &>/dev/null #如何修改时间 [root@backup ~]# date Sat Aug 3 00:04:57 CST 2019 [root@backup ~]# date -s '20190804' Sun Aug 4 00:00:00 CST 2019 #如何同步时间 [root@backup ~]# ntpdate time.windows.com &>/dev/null
服务端需求
1.服务端部署rsync，用于接收客户端推送过来的备份数据
#安装mailx,ntpdate yum install -y mailx yum install -y ntpdate #配置mail.rc vim /etc/mail.rc Shift + g(在文件末尾添加便可) set from=531759321@qq.com set smtp=smtps://smtp.qq.com:465 set smtp-auth-user=531759321@qq.com set smtp-auth-password=受权码 set smtp-auth=login set ssl-verify=ignore set nss-config-dir=/etc/pki/nssdb/
2.服务端须要天天校验客户端推送过来的数据是否完整
3.服务端须要天天校验的结果通知给管理员
4.服务端仅保留6个月的备份数据,其他的所有删除
#配置文件
vim check_backup.sh
#!/bin/bash
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
DATE=`date +%F`
md5sum -c /backup/res*.txt|mail -s "${DATE} check backup" 531759321@qq.com #检验数据并发送给管理员
find /backup -type d -mtime +180|xargs rm -fr #保留6个月的备份数据
[root@web01 ~]# crontab -e #天天凌晨一点零一分校验结果 By:cm At:2019-08-02 01 01 * * * /bin/sh /root/check_backup.sh &>/dev/null
相关文章
- 1. rsync备份服务
- 2. Rsync备份服务
- 3. rsync备份服务配置
- 4. Rsync备份服务器
- 5. rsync备份服务(下)
- 6. rsync备份服务(上)
- 7. 01-Rsync备份服务
- 8. rsync 制作备份服务器
- 9. 三、Rsync备份服务实战
- 10. rsync 备份服务搭建（完成）
- 更多相关文章...
- • 启动MySQL服务 - MySQL教程
- • MySQL数据库备份（INTO OUTFILE） - MySQL教程
- • Spring Cloud 微服务实战(三) - 服务注册与发现
- • 再有人问你分布式事务，把这篇扔给他
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
欢迎关注本站公众号,获取更多信息
相关文章
- 1. rsync备份服务
- 2. Rsync备份服务
- 3. rsync备份服务配置
- 4. Rsync备份服务器
- 5. rsync备份服务(下)
- 6. rsync备份服务(上)
- 7. 01-Rsync备份服务
- 8. rsync 制作备份服务器
- 9. 三、Rsync备份服务实战
- 10. rsync 备份服务搭建（完成）