分享

Ubuntu通过rsync实现定时同步文件夹

 Allen 图书馆 2024-01-12 发布于上海

前言:

最近要整理多个服务器的代码,代码备份同步的事儿实在太恶心了。

因此想着能不能直接搞一个自动定时同步的脚本

搜了一下,发现了Linux自带一个同步的命令:
Ubuntu 文件同步工具 rsync

这玩意儿算是第一个见,看来我还是得抽时间过一遍鸟叔的Linux私房菜了,至少要知道Linux本身可以有哪些功能,提高效率。

rsync的常见操作:

cp和scp是ubuntu中文件拷贝常用的两个命令,一般在同一台服务器上我们是用cp命令,跨服务时使用过scp命令,但是如果做文件同步的话,rsync要比上述两个命令更好用一些,跨不跨服务器都是如此。

因为rsync可以只同步需要更新的文件,而不是将所有的指定路径内的文件都拷贝一份,然后再目标路径下去覆盖源文件,比如本地的/mnt/tem文件夹要和远程xx.xx.xx.123的/mnt/tem路径做同步,可以使用:

rsync -avu --progress /mnt/tem/ xx@xx.xx.xx.123:/mnt/tem

其中:

-v 详细输出
-a 归档模式,表示以递归方式传输文件,并保持所有文件属性,如果文件属性变了,认为是不同文件
-u 选项忽略重复的数据

此外,rsync默认拷贝软连接,这一点和scp是不同的,scp会拷贝软链接。而rsync如果想同步软连接的话需要指定-l参数。

-v, --verbose 详细模式输出。
-q, --quiet 精简输出模式。
-c, --checksum 打开校验开关,强制对文件传输进行校验。
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。
-r, --recursive 对子目录以递归模式处理。
-R, --relative 使用相对路径信息。
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀。
-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件,不覆盖更新的文件。
-l, --links 保留软链结。
-L, --copy-links 想对待常规文件一样处理软链结。
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结。
--safe-links 忽略指向SRC路径目录树以外的链结。
-H, --hard-links 保留硬链结。
-p, --perms 保持文件权限。
-o, --owner 保持文件属主信息。
-g, --group 保持文件属组信息。
-D, --devices 保持设备文件信息。
-t, --times 保持文件时间信息。
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间。
-n, --dry-run现实哪些文件将被传输。
-w, --whole-file 拷贝文件,不进行增量检测。
-x, --one-file-system 不要跨越文件系统边界。
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节。
-e, --rsh=command 指定使用rsh、ssh方式进行数据同步。
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息。
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件。
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件。
--delete 删除那些DST中SRC没有的文件。
--delete-excluded 同样删除接收端那些被该选项指定排除的文件。
--delete-after 传输结束以后再删除。
--ignore-errors 及时出现IO错误也进行删除。
--max-delete=NUM 最多删除NUM个文件。
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输。
--force 强制删除目录,即使不为空。
--numeric-ids 不将数字的用户和组id匹配为用户名和组名。
--timeout=time ip超时时间,单位为秒。
-I, --ignore-times 不跳过那些有同样的时间和长度的文件。
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间。
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0。
-T --temp-dir=DIR 在DIR中创建临时文件。
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份。
-P 等同于 --partial。
--progress 显示备份过程。
-z, --compress 对备份的文件在传输时进行压缩处理。
--exclude=PATTERN 指定排除不需要传输的文件模式。
--include=PATTERN 指定不排除而需要传输的文件模式。
--exclude-from=FILE 排除FILE中指定模式的文件。
--include-from=FILE 不排除FILE指定模式匹配的文件。
--version 打印版本信息。
--address 绑定到特定的地址。
--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件。
--port=PORT 指定其他的rsync服务端口。
--blocking-io 对远程shell使用阻塞IO。
-stats 给出某些文件的传输状态。
--progress 在传输时现实传输过程。
--log-format=formAT 指定日志文件格式。
--password-file=FILE 从FILE中得到密码。
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
-h, --help 显示帮助信息。

crontab定时功能

有了同步的功能,我们还要实现自动化,这个自动化,有好几种方案,比如写一个bash脚本,但是我没找到一个合适的教程。

还有一种方案是:ubuntu下使用rsync+inotify-tools实现文件自动备份之一
找到的教程写的跟个鬼一样,试了好几次都没有成功~

最后选择最简单的crontab功能;

局域网内自动化同步文件夹详细步骤

先介绍一下crontab的功能:
在这里插入图片描述

直接从私房菜里面截了一张图;

主要就是两个指令:

1. crontab -l

crontab -l

显示当前crontab文件的工作内容;
第一次执行要输入一个y,确认一下权限;

2. crontab -e

第二个指令就是编辑了:

crontab -e

第一个执行的时候,需要选择哪个文件,选择推荐的就行了。
比如我写的就是下面的一个指令:

*/1 * * * * sshpass -p 'mypassword' rsync -avu --progress /home/robot/DRLib-D2S/ lyl@192.168.12.9:/home/robot2/robot_code/DRLibD2S/

关于crontab -e怎么保存退出的操作。
摁住ESC,然后Ctrl+X,好像就可以了。
不行的话多试几次,遇到你输入yes的,输入一个y。
遇到:File Name to Write: /tmp/crontab.UO36KV/crontab
不想着修改的话,直接摁enter就行了

3. crontab的定时规则:

Cron 任务入门指南

分钟(0-59) 小时(0-24) 日(1-31) 月(1-12) 星期(0-6) 要执行的命令

在这里插入图片描述
在上图中,星号表示特定的时间块。

要 每分钟 执行一次 cron 任务,需使用如下格式。

* * * * * <command-to-execute>

其中<command-to-execute>要被完整的替代为你的命令,比如* * * * * mkdir demo_dir

要每 5 分钟运行一次 cron 任务,请在 crontab 文件中添加以下内容。

*/5 * * * * <command-to-execute>

要在每 1/4 个小时(每 15 分钟)运行一次 cron 任务,请添加以下内容:

*/15 * * * * <command-to-execute>

要每小时的第 30 分钟运行一次 cron 任务,请运行:

30 * * * * <command-to-execute>

您还可以使用逗号定义多个时间间隔。例如,以下 cron 任务每小时运行三次,分别在第 0、 5 和 10 分钟运行:

0,5,10 * * * * <command-to-execute>

每半小时运行一次 cron 任务:

*/30 * * * * <command-to-execute>

每小时运行一次:

0 * * * * <command-to-execute>

4.sshpass免密码操作!

一般来说直接rsync,每次都需要输入密码。
而所谓的--password-file=/etc/rsync.pass的操作,只能在deamain能用,都是什么鬼玩意儿~

好在上次用scp传图的时候,学会了一个sshpass的包,可以直接在命令行将密码直接传进去:

sudo apt-get install sshpass -y

现在终于可以实现服务器a同步到服务器b了:

  1. 在服务器a上输入:
  2. crontab -e
  3. 在cron最后一行输入:
  4. */2 * * * * sshpass -p 'mypassword' rsync -avu --progress /home/robota/DRLib-D2S/ lyl@192.168.12.13:/home/robotb/robot_code/DRLibD2S/
  5. 实现效果,每隔两分钟将服务器a的文件夹上传到服务器b的文件夹中。
  6. 注意file/和file的区别,如果源目录是file/的话,那么会将file/下面的内容传给目标文件夹,如果是file的话,那么直接将file打包传给目标文件夹。
  7. 同样的在b服务器也配置一个,就能真正的同步了~

结束。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多