深入浅出了解华为云 API 网关的 Gzip 功能
Gzip 是什么
Gzip 是一种用于数据压缩的编码格式,经常被使用在基于 HTTP 协议的网络传输中。Gzip 功能允许服务器在传输数据是对其进行压缩,从而减小传输的数据量,加快页面加载速度,这对于节省带宽和提高用户体验非常有用。本文将从 Gzip 使用场景、Gzip 原理、Gzip 在 nginx 中的应用以及华为云 API 网关的 Gzip 功能实现几个方面介绍 Gzip。
Gzip 使用场景****
Gzip 能够提升传输速度和降低带宽消耗,因此适合应用 Gzip 的场景有很多。
网页传输:在 web 开发中,使用 Gzip 可以减小文件大小,从而加快页面加载速度。
移动应用通信:在移动应用中,使用 Gzip 可以降低移动网络的数据消耗,加快数据传输速度,提升用户体验。
文件备份和传输:在进行文件备份或者文件传输时,使用 Gzip 可以减小备份文件的大小,节省存储空间和传输带宽。
网络传输限制:在网络带宽受限的环境下,使用 Gzip 可以减小数据传输量,提升网络性能。
API 通信:对于 RESTful API 或其他数据接口的传输,使用 Gzip 可以降低传输的数据量,减少对网络带宽的占用,提升响应速度。
Gzip 原理****
gzip 使用 deflate 算法进行压缩。其原理主要包括 LZ77 算法以及 Huffman 编码(哈夫曼编码)。
LZ77 算法
LZ77 算法是将重复字符串替换为长度距离对来达到压缩的目的。长度是重复字符串的长度,距离是重复字符串与第一个出现该字符串的距离,下图是一个简单的示例:
在 LZ77 算法中,主要运用了基于滑动窗口的字典压缩算法。首先是滑动窗口:
以上图为例,一开始,查找区是没有字符的。滑动窗口从 K 开始移动,依次在查找区尝试查找当前指向字符及之后字符的最长匹配,直到滑动窗口区不再有字符为止。这里就涉及到另外一个问题了,如何在查找区中快速的找到与滑动窗口中匹配的字符,LZ77 显然不会采取暴力遍历查找的方法,通常使用哈希数组来实现字典的快速搜索。在哈希数组中有两个数组,一个数组用来存放最新重复字符串的哈希地址,一个数组用来解决哈希冲突。具体以下图为例进行说明:
当第一次扫描 ABC 时,对应数组 1 中 4 号位置为空,因此不用转化为长度距离对。当第二次扫描到 ABC 时,对应数组 1 中 4 号位置存放的是 1,于是将 4 号位置替换为 6,再将 1 放置在数组 2 中的 6 号位置,此时数组 2 的 6 号位置存放的是 1,对当前字符串后的字符继续和 1 位置对应字符后的字符继续进行匹配,记录最长匹配字符长度。然后在数组 2 中查找 1 号位置,如果为空则结束匹配,最后将匹配到的最长字符替换为长度距离对。
Huffman 编码
Huffman 编码的原理是基于哈夫曼树。哈夫曼树是一种最优二叉树,是一种带权路径长度最短的二叉树。
以下是哈夫曼树的构造过程:
假设有 A、B、C、D、E 五个字母,他们对应出现的次数分别为 5,6,8,12,20
构造哈夫曼树的基本流程:将 A、B、C、D、E 看作是只有一个结点的树,其中出现的次数作为他们的权值。将权值和最小的两个数进行合并称为一个新树,权值较小的树作为左子树,权值较大的树作为右子树,新树的根结点权值为两子树之和,然后将新树也加入到树的集合中,重复上述流程知道又有一棵树为止。
针对哈夫曼树编码, 左分支为 0,右分支为 1。可得出 A、B、C、D、E 的编码如下:
从最后的编码来看,出现次数最多的 E 的编码长度比出现次数较少的 A 或 B 要少。最终频率高的字符会使用较短的编码,频率低的字符会使用较长的编码,总体的编码长度就会变小,从而达到压缩的结果。
Gzip 在 Nginx 中的应用****
Nginx 作为当下很流行的开源网页服务器和反向代理服务器,原生支持了 Gzip 的功能。但是在 Nginx 中 Gzip 功能默认是不开启,需要在配置文件中配置相关指令才可以开启 Gzip 功能。常见的配置项如下:
华为云 API 网关的 Gzip 功能****
华为云 API 网关(APIG)为企业和开发者提供的高性能、高可用、高安全的云原生网关服务,融合安全、负载均衡、流量入口治理、微服务流量治理、运维等多项能力,也支持 Gzip 压缩功能。用户可以通过一键式开关控制 Gzip 功能的开启。同时 APIG 还开放了压缩等级,用户可以通过配置不同的压缩等级,根据自己的需求对 Gzip 功能进行性能调优。当一个客户端发送一个 HTTP 请求时,需要包含一个 Accept-Encoding 头部用来指示客户端支持的压缩算法。APIG 会根据 GZIP 开关来判断是否进行压缩。在开关开启的状态下,APIG 会将响应内容压缩,然后将压缩后的响应发送给客户端(如果客户端已经进行 Gzip 压缩,那么 APIG 将不会进行二次压缩)。客户端收到响应后,会根据响应头部的 Content-Encoding 字段判断是否经过了压缩。如果响应被压缩了,客户端会进行解压缩,以获取原始的内容。
可以参考以下步骤打开 Gzip 开关及设置压缩等级:
打开华为云 APIG 控制台,依次进入实例管理-->配置参数,在页面列表中找到参数 gzip 如下:
如上图,gzip 功能为开启状态,且压缩等级为 6。
此外,APIG 还提供了 Debug 功能用以调试 Gzip 功能。首先依次打开 API 列表, 然后点击创建 API。
在填写好 API 详细信息后,在后端配置选项页面选择 Mock 后端,并且增加 header 参数-content-length(参数值需要大于等于 1028, 否则 gzip 功能将不生效。)
然后进入 API 的调试界面,在 Headers 中添加参数:Accept-Encoding,对应参数值为 gzip。 在响应结果中,如果有 Content-Encoding: gzip 出现,即代表 Gzip 功能生效。
总结****
Gzip 自首次发布以来,已经成为互联网上常用的压缩格式之一。各种高性能的开源代理如 Nginx、Envoy 等都原生支持 Gzip 的功能。在传输速度和降低带宽消耗方面,Gzip 有着十分强大的优势,希望本文能帮助到想要了解 Gzip 背后原理及其应用的人。
评论