1、rsyncの基礎の概要
1.バックアップは何ですか
これは、ソースファイルのコピーを追加するのと同じですが、データを書き込む際に、バックアップにのみバックデータの現在の状態まで、しない限り、手動でバックアップを再度、新たに書き込まれたデータをバックアップしていないだろう。
2.なぜバックアップを行います
1は、重要なデータをバックアップする必要性
、2の誤用を防ぐために、データ損失防止の
3を、データが削除され、それが迅速にデータを復旧することができます
3、バックアップすることはできませんか?
はい、あなたはいない戻って、重要なデータをバックアップすることができますが、重要なデータは、念のために、バックアップを提案
4、あなたが使用するバックアップ方法?
フルバックアップ:毎回完全コピー、非効率的な
増分バックアップ:あなたが唯一のバックアップファイルを変更することができ、高効率
5、バックアップツールは何を使用しましたか?
ローカルバックアップ:CP
リモートバックアップ:SCP rsyncのSZ RZ
6、rsyncのリモート同期ツール
ホストとホスト同期の増分間の同期。
PS:サービスが使用されているrsyncは、それはrsyncの」を知る必要がある場合のC / Sアーキテクチャです
7、rsyncの送信モード
図1に示すように、ローカル送信----> CP
2、長距離伝送----> SCP
3、デーモン---->
#等价于cp命令
Local: rsync [OPTION...] SRC... [DEST]
命令 选项 源 目标
[root@backup ~]# rsync -avz anaconda-ks.cfg /tmp/
#远程传输
Access via remote shell:
上传 Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
命令 选项 源 系统用户 主机IP 目标位置
1.我要将我本地的那个文件,推送至那台服务器的那个目录,使用的是什么用户
[root@backup ~]# rsync -avz ./backup_file [email protected]:/opt/
[email protected]'s password: #输入31的root密码
下载 Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
命令 选项 系统用户 主机IP
2.我要下载那个主机的那个目录下的文件,使用的是什么系统用户. 然后下载到我本地的那个位置
[root@backup ~]# rsync -avz [email protected]:/opt/backup_file ./file.txt
[email protected]'s password: #输入31的root密码
目录: /etc/ /etc 区别?
#推送/etc目录下的所有文件
[root@backup ~]# rsync -avz /etc/ [email protected]:/opt
#推送/etc目录以及目录下的所有文件
[root@backup ~]# rsync -avz /etc [email protected]:/opt
Rsync借助SSH协议同步数据存在的缺陷 ( 使用对端主机的用户名和密码 系统 )
1.使用系统用户(不安全)
2.使用普通用户(会导致权限不足情况)
问题:
1.rsync -avz /etc/ [email protected]:/opt ---> 172.168.1.31
2.路径问题
3.普通用户权限
守护进程模式--->一直在后台持续的运行
ccess via rsync daemon:
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
簡単なバックアップにrsyncを使用して2、rsyncの設定、
1.安装
[root@backup ~]# yum install rsync -y
2.配置 ( 改变程序运行轨迹 )
[root@backup ~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup
3.根据配置创建一些初识环境:
3.1创建rsync用户 rsync程序需要rsync这个用户来运行
[root@backup ~]# groupadd rsync
[root@backup ~]# useradd -M -s /sbin/nologin rsync -g rsync
[root@backup ~]# id rsync
uid=1000(rsync) gid=1000(rsync) groups=1000(rsync)
3.2 虚拟用户 /etc/rsync.passwd username:password
[root@backup ~]# echo "rsync_backup:123456" > /etc/rsync.passwd
[root@backup ~]# chmod 600 /etc/rsync.passwd
3.3 创建一个/backup目录
[root@backup ~]# mkdir /backup
[root@backup ~]# chown -R rsync.rsync /backup/
4.启动
[root@backup ~]# systemctl start rsyncd
[root@backup ~]# systemctl enable rsyncd
5.检测
[root@backup ~]# netstat -lntp | grep 873
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 8616/rsync
6.使用
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
[root@nfs ~]# rsync -avz ./anaconda-ks.cfg [email protected]::backup
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
[root@nfs ~]# rsync -avz [email protected]::backup /opt
7.客户端每次都需要使用密码?
1.设定变量 RSYNC_PASSWORD (后面写脚本的时候)
[root@nfs ~]# export RSYNC_PASSWORD=123456
[root@nfs ~]# rsync -avz [email protected]::backup /opt
2.提前准备一个文件 (只有密码的文件), 然后使用 --password-file 指定位置
[root@nfs ~]# echo "123456" > /etc/rsync.pass
[root@nfs ~]# chmod 600 /etc/rsync.pass
[root@nfs ~]# rsync -avz [email protected]::backup /opt --password-file=/etc/rsync.pass
8.-avz 这些选项 怎么理解?
-a #归档模式传输, 等于-tropgDl
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-r #递归传输目录及子目录,即目录下得所有目录都同样传输。
-t #保持文件时间信息
-o #保持文件属主信息
-p #保持文件权限
-g #保持文件属组信息
-l #保留软连接
-D #保持设备文件信息
-P #显示同步的过程及传输时的进度等信息
-L #保留软连接指向的目标文件
-e #使用的信道协议,指定替代rsh的shell程序
--exclude=PATTERN #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100 #限速传输
--delete #让目标目录和源目录数据保持一致
9. --delete 这个参数 (让目标目录和源目录数据保持一致) 危险?
#推: 源有什么,目标就有什么
[root@nfs ~]# rsync -avz /root/ [email protected]::backup --delete
#拉: 目标主机有什么, 本地就有什么
[root@nfs ~]# rsync -avz [email protected]::backup ./ --delete
10.--bwlimit 限速, 这个参数? 1000兆 125MB/s
虚拟机最高的峰值 25MB/s 5MB/s ---> 取决于实际的情况
单位=KB
[root@nfs ~]# rsync -avzP --bwlimit=5120 ubuntu-18.04.1-desktop-amd64.iso [email protected]::backup
sending incremental file list
ubuntu-18.04.1-desktop-amd64.iso 159,186,944 8% 5.12MB/s 0:05:41
11.--exclude 这个参数 --exclude-from ?
[root@nfs ~]# rsync -avzP --exclude-from=pc.txt rsync://192.168.0.128/yu
[root@nfs ~]# cat pc.txt
centos/
code/
docker-ce/
epel/
git/
java/
jenkins/
kubernetes/
mongodb/
mysql/
node/
non-supported/
php/
python/
redis/
sonarqube/
windowstools/
zabbix/
CentOS-7-x86_64-DVD-1810.iso
CentOS-Base.repo
docker-ce.repo
epel.repo
nginx.repo
php.repo
rsync_exclude.txt
zabbix.repo
各种源使用说明.txt
12.使用rsync同步学校内网yum源?
mysql/
nginx/
php/
バックアップ(どのようにバックアップするのrsync?)のケースを達成するために3、
已知3台服务器主机名分别为web01、backup 、nfs主机信息见下表:
角色 外网IP(NAT) 内网IP(LAN) 主机名
WEB eth0:10.0.0.7 eth1:172.16.1.7 web01
NFS eth0:10.0.0.31 eth1:172.16.1.31 nfs
Rsync eth0:10.0.0.41 eth1:172.16.1.41 backup
客户端: web nfs
服务端: backup
1、クライアントのニーズ
1.客户端提前准备存放的备份的目录,目录规则如下:/backup/nfs_172.16.1.31_2018-09-02
2.客户端在本地打包备份(系统配置文件、应用配置等)拷贝至/backup/nfs_172.16.1.31_2018-09-02
3.客户端最后将备份的数据进行推送至备份服务器
4.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间
4.客户端每天凌晨1点定时执行该脚本
2、サーバーのニーズ
1.服务端部署rsync,用于接收客户端推送过来的备份数据
2.服务端需要每天校验客户端推送过来的数据是否完整
3.服务端需要每天校验的结果通知给管理员
4.服务端仅保留6个月的备份数据,其余的全部删除
注意:所有服务器的备份目录必须都为/backup
快递: 散货-------->打包--->标记------->装车-------------->运输------------->仓库
验货-------->评价
系统: 备份的文件-->打包--->校验值----->备份至本地目录---->网络-------->推送至备份服务器
管理员校验-->通知--->邮件
1.你需要备份什么?
/etc/fstab /etc/hosts /etc/passwd /var/spool/cron/
2.你要备份到哪里?
/backup/nfs_172.16.1.31_2018-09-02
IP: ifconfig eth1 | awk 'NR==2 {print $2}'
host: hostname
date: date +%F
3.你要推送到哪里?
172.16.1.41
3、クライアントの構成
[root@nfs ~]# mkdir /scripts
[root@nfs ~]# cat /scripts/clinet_push_data_server.sh
------------------------------------------------------------------------------
#!/usr/bin/bash
# variables == 变量 ---> 一个固定的字符串表示一个不固定的值
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Src=/backup
Host=$(hostname)
Addr=$(ifconfig eth1 | awk 'NR==2 {print $2}')
Date=$(date +%F)
Dest=${Host}_${Addr}_${Date}
#1.准备对应的备份目录
[ -d $Src/$Dest ] || mkdir -p $Src/$Dest
#2.将文件拷贝至备份目录
cd / && \
[ -f $Src/$Dest/sys.tar.gz ] || tar czf $Src/$Dest/sys.tar.gz etc/fstab etc/hosts etc/passwd && \
[ -f $Src/$Dest/other.tar.gz ] || tar czf $Src/$Dest/other.tar.gz var/spool/cron/ scripts/ && \
#3.添加标记
[ -f $Src/$Dest/flag_${Date} ] || md5sum $Src/$Dest/*.tar.gz > $Src/$Dest/flag_${Date}
#4.推送数据至远程仓库
export RSYNC_PASSWORD=123456
rsync -avz $Src/ [email protected]::backup
#5.保留本地最近7天的数据
find $Src/ -type d -mtime +7 | xargs rm -rf
#批量的模拟数据
[root@nfs ~]# for i in {1..30};do date -s "201909$i"; sh /scripts/clinet_push_data_server.sh ; done
4、サーバ構成
#1.服务端配置邮件功能
[root@backup /]# yum install mailx -y
[root@backup /]# vim /etc/mail.rc #跳转至最后一行,然后进入编辑模式
set from=发件人@qq.com
set smtp=smtps://smtp.qq.com:465
set smtp-auth-user=发件人@qq.com
set smtp-auth-password=xxxx
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/
#2.测试一下是否能发送成功
mail -s "测试一下" 收件人@qq.com < /etc/hosts
#3.编写脚本
[root@backup ~]# cat /scripts/check_data_notify.sh
#!/usr/bin/bash
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Src=/backup
Date=$(date +%F)
#1.校验每天客户端推送过来的flag数据
md5sum -c ${Src}/*_${Date}/flag_${Date} >${Src}/result_${Date}
#2.邮件通知管理员
mail -s "Rsync Backup ${Date}" 收件人@qq.com < ${Src}/result_${Date}
#3.保留最近180天的数据
find $Src/ -type d -mtime +180 | xargs rm -rf
問題のタスクのタイミングかどうか
客户端
[root@nfs ~]# crontab -l
#定时备份数据
*/1 * * * * sh /scripts/clinet_push_data_server.sh &>/dev/null
服务端
[root@backup ~]# crontab -l
#定时校验备份的结果
*/1 * * * * sh /scripts/check_data_notify.sh &>/dev/null
クライアントのバックアップを向上させる方法
[root@web01 ~]# rsync -avz [email protected]:/scripts /