分享

远程大量文件传输方案探究

 金刚光 2021-10-27

远程大量文件传输方案探究

额……朋友们好啊,我图吧老数据库管理员了(rm -rf/*,从删库到跑路)。最近咱突然有了远距离传输大量数据的需求(主要是咱这次出门轻车简从没带数据库备份用硬盘,但是这边有笔记本改的简易NAS,就是X200T加了底座光驱位有硬盘 还有两三个硬盘可用作为冷热数据挂在硬盘盒里),所以简单尝试了几种方法之后简单总结一下。

编辑

封面来源:じがてさん(21260747)

这封面是我从隔壁UP那的视频那要来的,不过这UP的这个封面挺能藏啊,我让他交出来之后也差点没找到原图。后来发现这家伙是从推上拔的图,而且这些图都可一个羊薅啊

编辑
编辑
编辑
编辑

像这种画师咱是不会单独写文章推荐的,没人去那种地方找图玩,你能在PIXIV更新就更不能就拉倒,PIXIV你不更回头有人帮你更(包括且不限于WAIFU2X处理+描画/临摹)。

首先本期的需求是从远程有人或无人值守主机/WINNAS远程传输对拷大量零碎小文件或者中体积单个文件的需求,这个需求是基于两边都有相对来说不错的网络并且装备了远程桌面的条件的。如果远程端或者客户端没有足够稳定的网络连接那么一切都是白给。就是说如果咱在现在这个条件可以很开心的使用,但是下海或者人在国外的话可能就有困难。这个远程传输的方案仅能保证国内场合有效。

还有如果各位有群晖之类的内网穿透NAS就不需要这么折腾了,这种方案仅适合WINNAS+远程桌面的DIY级私有云。

开始

通常我们知道的传输文件的方法无非是QQ(微云)、兲度网盘这样的初级产品。像这种方法其实作为个人是相当不建议的。本质上先不说各种速度体积上的限制,像ZBJ网盘这种东西还很有可能给你未加密传输的文件给以版权、非法为由夹掉,非常的垃圾。

编辑

倒是可以加密码比如【0000】+文件名(文件名可简写加密)的方法解决无限白嫖QQ群(微云)文件可能会被夹的问题,但是经实测啊,像这种除了你别人根本不会用的冷数据小文件还有可能那边不给你好好存,就是虽然不给你夹掉但是你下载回来可能还会损坏,尤其是视频什么的。所以用WINRAR加校验位 +5%恢复记录(rr%5)是个好习惯。

然后就可以使用 WinRAR 修复损坏的分卷、改回原名后重新解压。

虽然以上技巧配合QwQdownload 也有一定的稳定性和速度,不过这个速度还是太慢,尤其是冷数据,基本上网盘那边也不会给你用分布式储存,能给你存这种文件的服务器数量非常有限,而且传输也不稳经常出现坏档

编辑

就像一些分享上说的一样,百度云下载后需注意校验,可能还需要修复。

所以就算不考虑文件丢失损坏的风险,也有下载速度太慢的问题(无法满速下载、发生错误、远程主机强波关闭了一个现有的连接、SSL/TLS算法不同:重启软件,打开设置,尝试将HTTPS强制转为HTTP打开或关闭,再尝试开始下载这种方法对冷数据可能无效)。

所以这里我们要补充一下上期阿里网盘 的使用体验吧

编辑

用阿里云盘虽然分享的业务水平很差,但是登录同一个账号从家里的NAS往公寓的简易NAS(X200T/201T上X200底座)倒盘是没问题的。速度,还可以,一般可接受范围。而且上传大量文件的时候会秒传,就是校验文件的速度太慢影响上传速度。

编辑

阿里云盘是真的勇,私有云这边真就说上传一个文件夹就上传一个文件夹啊, 这项目数有点NB,说什么都听啊这孩子。虽然有上传失败需要手动,但是大部分都上传成功了,回头想办法手动点重试或者用客户端再传吧。

编辑

不过这东西的下载并不是完美的,就是虽然速度是在线但是在传一些需要上传的冷门文件的时候会出现下载失败的问题。这里垃圾佬为了稳定习惯性的用了客户端,但是还是不可避免的出现了失败。

编辑

哔站也有UP反馈,阿里云盘一些不算太私有太冷门的文件依然会出现挂掉下载失败的问题。

编辑

这玩意可能也分时候,前两天用X200T挂机下载的就没啥事,换了X201T就不行,可能这机器脸黑,也可能这次的文件规模确实太大

编辑
编辑

如果用网页选择下载一个文件夹倒不会弹出会员提示,但是下载会出一个整个的压缩包

那肯定也是不行的对吧,这玩意用IDM之类的下我都感觉有点悬。这更不可能了。

编辑

所以作为备份方案只能接着走BT重下,不过可以用家里的NAS挂机做种把上传打开提速,而且还能利用现成的进度做校验

至于垃圾佬的流浪地球加密网盘分享回来的没BT种子之类的大文件还是优先考虑网盘,现做种太麻烦了

现在超星云盘的分享好像没了,不过还是不限速100G随便用的状态

超星云盘

编辑

超星云盘上传大文件得用客户端,这会儿好像传不动了

不过没关系啊,之前提到的奶牛快传 也可以用

编辑

上传需要登录并且有限制

编辑
编辑

这玩意必须完成上传之后文件经过服务器传输

编辑

下载的话垃圾佬用火狐试了下这边只要有链接就可以,是不一定要登录的

编辑

这会儿速度也就1M那样吧,考虑到垃圾佬这边的网速和并行下载量也不低了

编辑

这会儿下载能有速度就不错了,公寓这边的网之前咱试过,人一多就GG,咱这会儿是运气好直接住路由器下面了,离得远一点手机啊笔记本啊网卡信号不太好的就连不上了,所以垃圾佬的电脑一般都是全员恶人,都换了信号最强的网卡,iPhone之类的垃圾没办法,所以上了WS5200四核版和E5885之类的东西作为中继或者干脆走4G。这会儿网行就直接一个中继解决,E5885的中继比WS5200 WS7200的好,不改变本机AP的SSID,所以有独立网段内网分享些东西也方便且安全性高。当然要是中继的是自己家的网的话就还是前者更实用。

编辑

实测嗷,BT做种挂机上传在同样运营商的网里面是可以有速度的,垃圾佬看了一眼图吧NAS端μT上传用户和测速网显示的本机IP地址完全一致。也就是说我自己在家做种给我自己传了属于是。

而且这数据量还没少传呢这么会功夫

编辑

然而垃圾佬的NAS的RAID硬盘盒相当不稳定,读写一旦超过一定的强度就会挂阵列掉盘了现在是

编辑

结构就是作为唯二的数据源这边的速度一下子就慢下来了

编辑

还好垃圾佬预判了这破盒子的预判,可以直接用之前收来的2T和1.5T三星M9T的备份接着干。正好也可以测试一下这老破盘的稳定性。现在RAID0已经不稳了,垃圾佬必须用正经1T盘作为NAS的移动数据盘了,还好现在CMR的1T双碟2.5寸蓝盘比如WD1000JPVX价格已经稳定在150包邮了,就算是7mm的WD10SPCX也很便宜。

编辑
编辑

所以整体来说捡垃圾在家组个图吧NAS依然有充足的可行性和市场,并不是没有前途,硬件上虽然J1900之类的工控机在涨价,但是同样预算下X200加底座或者N3450的方案依然有效,WINNAS还是可以很容易的搭建。

编辑

如果将来测试M9T作为热储存挂NAS上也能可靠的话那不考虑成本其实就可以通过单U口2G这么扩容实现大容量NAS了,不过4*750G(1内置黑盘+3外置蓝盘)+1T(WD5000LPLX*2RAID0)这种配置就算不用M9T全员西数也有升级空间,USB全员1T蓝盘可以动用4个或者5个U口(含内置一个转接前置两个留备用数据连接3.5寸冷数据储存盘或者手机和另一个U口给无线键鼠)留一个内置黑盘750G也是相当可以的,SMB共享也好走BT也好现在的速度需求还可以满足(千兆内网卡百兆有线上了,虽然有升级300M无线但是还是不太够,通过U口扩展千兆有线还会占用本机唯一一个USB3.0,至于USB2.0完全可以满足现在的需求,反正垃圾佬的这套方案卡SMB协议上了速度也不会很快,至于外网则USB2.0更是够用,目前还没有比480Mbps更快的网速)。

而远程传输大量文件在两端网速能满足需求的情况下还是有足够多的服务商能满足个人的中小体积大量文件的传输需求的(如果你非得传100多G的文件当我没说,除了BT外应该没几个网盘能做得到),如果你想安全那么使用BT也是完全可以做到的,这都不是问题。

就这样,谢谢朋友们!

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多