让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz
恋足俱乐部,八亿手机电影下载,陈明真三级
pig是个啥东东?
官网:
一句话简介:
a parallel implementation of gzip for modernmulti-processor, multi-core machines。
简单的说,就是支持并行的gzip。废话不多说,开始测试。
pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。
一、测试压缩包文件1
压缩前
-rw-r--r-- 1 root root 2474772480 dec 3 19:54 dbs.tar</p>
<p>1、gzip测试
压缩耗时,cpu最高:101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p>
<p>解压缩耗时,cpu最高:101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p>
<p>压缩后
-rw-r--r-- 1 root root 2349563863 dec 3 19:54 dbs.tar.gz</p>
<p>2、pigz测试
并发8线程(默认):
压缩耗时,cpu最高:832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p>
<p>解压缩耗时,cpu最高:199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p>
<p>并发4线程:
压缩耗时,cpu最高:427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p>
<p>解压缩耗时,cpu最高:202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p>
<p>压缩后
-rw-r--r-- 1 root root 2350161547 dec 3 19:54 dbs.tar.gz</p>
<p>二、测试压缩包文件2
压缩前
-rw-r--r-- 1 root root 5248890880 dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p>
<p>1、gzip测试
压缩耗时,cpu最高:101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p>
<p>解压缩耗时,cpu最高: 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p>
<p>压缩后
-rw-r--r-- 1 root root 1410045513 dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p>
<p>2、pigz测试
并发8线程(默认):
压缩耗时,cpu最高: 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p>
<p>解压缩耗时,cpu最高:179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p>
<p>并发4线程:
压缩耗时,cpu最高: 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p>
<p>解压缩耗时,cpu最高: 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p>
<p>压缩后
-rw-r--r-- 1 root root 1406061442 dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz
结论:
1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,cpu消耗则是gzip的8倍,压缩比则相当;
2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%;
3、在对压缩效率要求较高、但对短时间内cpu消耗较高不受影响的场景,使用pigz非常合适。
如对本文有疑问,请在下面进行留言讨论,广大热心网友会与你互动!!
点击进行留言回复
相关文章:
-
-
-
应用系统分布式构建运维
应用系统分布式构建运维 1+x初级,项目四 部署主从数据库 基础环境安装 准备两台主机 修改主机名 # hostnamectl set-hos...
[阅读全文]
-
-
Linux环境变量
在bash shell中,环境变量分为两类: 全局变量 局部变量 全局环境变量 全局环境变量对于shell会话和所有生成的子shell都是可见的。例如 ...
[阅读全文]
-
-
-
初步进入Linux世界
初步进入Linux世界 一、Linux目录介绍 1.树型目录结构 Linux文件系统采用了多级目录的树型层次结构管理文件。树型结构的最上层是根目录,用/...
[阅读全文]
-
Linux常用命令(详细)
Linux常用命令 一、控制台相关命令 控制台命令就是指通过字符界面输入的可以操作系统的命令。我们现在要了解的是基于Linux操作系统的基本控制台命令。...
[阅读全文]
-
-
网友评论