深入浅出了解华为云API网关的Gzip功能
Gzip是什么
Gzip是一种用于数据压缩的编码格式,经常被使用在基于HTTP协议的网络传输中。Gzip功能允许服务器在传输数据是对其进行压缩,从而减小传输的数据量,加快页面加载速度,这对于节省带宽和提高用户体验非常有用。本文将从Gzip使用场景、Gzip原理、Gzip在nginx中的应用以及华为云API 网关的Gzip功能实现几个方面介绍Gzip。
Gzip使用场景
Gzip能够提升传输速度和降低带宽消耗,因此适合应用Gzip的场景有很多。
网页传输:在web开发中,使用Gzip可以减小文件大小,从而加快页面加载速度。
移动应用通信:在移动应用中,使用Gzip可以降低移动网络的数据消耗,加快数据传输速度,提升用户体验。
文件备份和传输:在进行文件备份或者文件传输时,使用Gzip可以减小备份文件的大小,节省存储空间和传输带宽。
网络传输限制:在网络带宽受限的环境下,使用 Gzip 可以减小数据传输量,提升网络性能。
API通信:对于 RESTful API 或其他数据接口的传输,使用 Gzip 可以降低传输的数据量,减少对网络带宽的占用,提升响应速度。
Gzip原理
gzip使用deflate算法进行压缩。其原理主要包括LZ77算法以及Huffman编码(哈夫曼编码)。
LZ77算法
LZ77算法是将重复字符串替换为长度距离对来达到压缩的目的。长度是重复字符串的长度,距离是重复字符串与第一个出现该字符串的距离,下图是一个简单的示例:
在LZ77算法中,主要运用了基于滑动窗口的字典压缩算法。首先是滑动窗口:
以上图为例,一开始,查找区是没有字符的。滑动窗口从K开始移动,依次在查找区尝试查找当前指向字符及之后字符的最长匹配,直到滑动窗口区不再有字符为止。这里就涉及到另外一个问题了,如何在查找区中快速的找到与滑动窗口中匹配的字符,LZ77显然不会采取暴力遍历查找的方法,通常使用哈希数组来实现字典的快速搜索。在哈希数组中有两个数组,一个数组用来存放最新重复字符串的哈希地址,一个数组用来解决哈希冲突。具体以下图为例进行说明:
当第一次扫描ABC时,对应数组1中4号位置为空,因此不用转化为长度距离对。当第二次扫描到ABC时,对应数组1中4号位置存放的是1,于是将4号位置替换为6,再将1放置在数组2中的6号位置,此时数组2的6号位置存放的是1,对当前字符串后的字符继续和1位置对应字符后的字符继续进行匹配,记录最长匹配字符长度。然后在数组2中查找1号位置,如果为空则结束匹配,最后将匹配到的最长字符替换为长度距离对。
Huffman编码
Huffman编码的原理是基于哈夫曼树。哈夫曼树是一种最优二叉树,是一种带权路径长度最短的二叉树。
以下是哈夫曼树的构造过程:
假设有A、B、C、D、E五个字母,他们对应出现的次数分别为5,6,8,12,20
构造哈夫曼树的基本流程:将A、B、C、D、E看作是只有一个结点的树,其中出现的次数作为他们的权值。将权值和最小的两个数进行合并称为一个新树,权值较小的树作为左子树,权值较大的树作为右子树,新树的根结点权值为两子树之和,然后将新树也加入到树的集合中,重复上述流程知道又有一棵树为止。
针对哈夫曼树编码, 左分支为0,右分支为1。可得出A、B、C、D、E的编码如下:
字符 |
E |
D |
C |
A |
B |
编码 |
0 |
10 |
110 |
1110 |
1111 |
从最后的编码来看,出现次数最多的E的编码长度比出现次数较少的A或B要少。最终频率高的字符会使用较短的编码,频率低的字符会使用较长的编码,总体的编码长度就会变小,从而达到压缩的结果。
Gzip在Nginx中的应用
Nginx作为当下很流行的开源网页服务器和反向代理服务器,原生支持了Gzip的功能。但是在Nginx中Gzip功能默认是不开启,需要在配置文件中配置相关指令才可以开启Gzip功能。常见的配置项如下:
华为云API 网关的Gzip功能
华为云 API 网关(APIG)为企业和开发者提供的高性能、高可用、高安全的云原生网关服务,融合安全、负载均衡、流量入口治理、微服务流量治理、运维等多项能力,也支持Gzip压缩功能。用户可以通过一键式开关控制Gzip功能的开启。同时APIG还开放了压缩等级,用户可以通过配置不同的压缩等级,根据自己的需求对Gzip功能进行性能调优。当一个客户端发送一个HTTP请求时,需要包含一个Accept-Encoding头部用来指示客户端支持的压缩算法。APIG会根据GZIP开关来判断是否进行压缩。在开关开启的状态下,APIG会将响应内容压缩,然后将压缩后的响应发送给客户端(如果客户端已经进行Gzip压缩,那么APIG将不会进行二次压缩)。客户端收到响应后,会根据响应头部的Content-Encoding字段判断是否经过了压缩。如果响应被压缩了,客户端会进行解压缩,以获取原始的内容。
可以参考以下步骤打开Gzip开关及设置压缩等级:
打开华为云APIG控制台,依次进入实例管理-->配置参数,在页面列表中找到参数gzip如下:
如上图,gzip功能为开启状态,且压缩等级为6。
此外,APIG还提供了Debug功能用以调试Gzip功能。首先依次打开API列表, 然后点击创建API。
在填写好API详细信息后,在后端配置选项页面选择Mock后端,并且增加header参数-content-length(参数值需要大于等于1028, 否则gzip功能将不生效。)
然后进入API的调试界面,在Headers中添加参数:Accept-Encoding,对应参数值为gzip。 在响应结果中,如果有Content-Encoding: gzip 出现,即代表Gzip功能生效。
总结
Gzip自首次发布以来,已经成为互联网上常用的压缩格式之一。各种高性能的开源代理如Nginx、Envoy等都原生支持Gzip的功能。在传输速度和降低带宽消耗方面,Gzip有着十分强大的优势,希望本文能帮助到想要了解Gzip背后原理及其应用的人。
- 点赞
- 收藏
- 关注作者
评论(0)