这篇文章主要讲解了linux下快速拷贝大文件的方法,内容清晰明了,对此有兴趣的小伙伴可以学习一下,相信大家阅读完之后会有帮助。
创新互联公司是一家专业提供神木企业网站建设,专注与成都网站制作、做网站、外贸营销网站建设、HTML5、小程序制作等业务。10年已为神木众多企业、政府机构等服务。创新互联专业的建站公司优惠进行中。拷贝数据
远程拷贝数据的时候,我们一般使用rsync命令,但是如果拷贝大量的小文件,会导致rsync的传输速度慢。使用tar pv lz4打包压缩传输,可以解决这问题,使用这个方法,等同于使用scp、rsync传输大文件。
实测,使用rsync传输1200G,单个文件大小为几十KB~2GB,千兆网卡,需要同时跑6个rsync才能把带宽跑满,每个速度20MB左右,速度波动大。每分钟可以拷贝4.5GB左右。
但是,使用tar pv lz4,跑一个就可以了,而且速度波动小。每分钟可以拷贝6.8GB左右。
rsync使用例子
rsync安装:yum install -y rsync
# 推送 [root@vm5 ~]# rsync -auvzP -e "ssh -p22" mssh.tar.gz root@192.168.176.11:/data/ sending incremental file list mssh.tar.gz 1,977 100% 0.00kB/s 0:00:00 (xfr#1, to-chk=0/1) sent 2,069 bytes received 35 bytes 4,208.00 bytes/sec total size is 1,977 speedup is 0.94 # 拉取 [root@vm5 ~]# rm -f mssh.tar.gz [root@vm5 ~]# rsync -auvzP -e "ssh -p22" root@192.168.176.11:/data/mssh.tar.gz . receiving incremental file list mssh.tar.gz 1,977 100% 1.89MB/s 0:00:00 (xfr#1, to-chk=0/1) sent 43 bytes received 2,069 bytes 4,224.00 bytes/sec total size is 1,977 speedup is 0.94
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。