7 压缩列表

felix.shao2025-02-18

7 压缩列表

TIP

 本小节主要介绍以下知识:

  • 压缩列表的定义。

概述

 压缩列表(ziplist)是列表键和哈希键的底层实现之一。当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么 Redis 就会使用压缩列表来做列表键的底层实现。
 例如,执行以下命令将创建一个压缩列表实现的哈希键:

127.0.0.1:6379> HMSET profile "name" "Jack" "age" 28 "job" "Programmer"
OK
127.0.0.1:6379> object encoding profile
"ziplist"

 哈希键里面包含的所有键和值都是小整数值或者短字符串。

压缩列表的构成

 压缩列表是 Redis 为了节约内存而开发的,由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。
 一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。
 图 7-1 展示了压缩列表的各个组成部分, 表 7-1 则记录了各个组成部分的类型、长度、以及用途。

7_1.png

 表 7-1 压缩列表各个组成部分的详细说明如下:

属性类型长度用途
zlbytesuint32_t4 字节记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配, 或者计算 zlend 的位置时使用。
zltailuint32_t4 字节记录压缩列表表尾节点距离压缩列表的起始地址有多少字节: 通过这个偏移量,程序无须遍历整个压缩列表就可以确定表尾节点的地址。
zllenuint16_t2 字节记录了压缩列表包含的节点数量: 当这个属性的值小于 UINT16_MAX (65535)时, 这个属性的值就是压缩列表包含节点的数量; 当这个值等于 UINT16_MAX 时, 节点的真实数量需要遍历整个压缩列表才能计算得出。
entryX列表节点不定压缩列表包含的各个节点,节点的长度由节点保存的内容决定。
zlenduint8_t1 字节特殊值 0xFF (十进制 255 ),用于标记压缩列表的末端。

 图 7-2 展示了一个压缩列表示例:

  • 列表 zlbytes 属性的值为 0x50(十进制 80),表示压缩列表的总长为 80 字节。
  • 列表 zltail 属性的值为 0x3c(十进制 60),这表示如果我们有一个指向压缩列表起始地址的指针 p,那么只要用指针 p 加上偏移量 60,就可以计算出表尾节点 entry3 的地址。
  • 列表 zllen 属性的值为 0x3 (十进制 3),表示压缩列表包含三个节点。
7_2.png

 图 7-3 展示了另一个压缩列表示例:

  • 列表 zlbytes 属性的值为 0xd2(十进制 210),表示压缩列表的总长为 210 字节。
  • 列表 zltail 属性的值为 0xb3(十进制 179),这表示如果我们有一个指向压缩列表起始地址的指针 p,那么只要用指针 p 加上偏移量 179,就可以计算出表尾节点 entry5 的地址。
  • 列表 zllen 属性的值为 0x5(十进制 5),表示压缩列表包含五个节点。
7_3.png

压缩列表节点的构成

 每个压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下三种长度的其中一种:

  • 长度小于等于 63(2^{6}-1)字节的字节数组;
  • 长度小于等于 16383(2^{14}-1) 字节的字节数组;
  • 长度小于等于 4294967295(2^{32}-1)字节的字节数组;

 而整数值则可以是以下六种长度的其中一种:

  • 4 位长,介于 0 至 12 之间的无符号整数;
  • 1 字节长的有符号整数;
  • 3 字节长的有符号整数;
  • int16_t 类型整数;
  • int32_t 类型整数;
  • int64_t 类型整数。

 每个压缩列表节点都由 previous_entry_length、encoding、content 三个部分组成, 如图 7-4 所示。

7_4.png

previous_entry_length

 节点的 previous_entry_length 属性以字节为单位,记录了压缩列表中前一个节点的长度。previous_entry_length 属性的长度可以是 1 字节或者 5 字节:

  • 如果前一节点的长度小于 254 字节,那么 previous_entry_length 属性的长度为 1 字节: 前一节点的长度就保存在这一个字节里面。
  • 如果前一节点的长度大于等于 254 字节,那么 previous_entry_length 属性的长度为 5 字节: 其中属性的第一字节会被设置为 0xFE (十进制值 254),而之后的四个字节则用于保存前一节点的长度。

 图 7-5 展示了一个包含一字节长 previous_entry_length 属性的压缩列表节点, 属性的值为 0x05,表示前一节点的长度为 5 字节。 7_5.png

 图 7-6 展示了一个包含五字节长 previous_entry_length 属性的压缩节点,属性的值为 0xFE00002766,其中值的最高位字节 0xFE 表示这是一个五字节长的 previous_entry_length 属性,而之后的四字节 0x00002766(十进制值 10086 )才是前一节点的实际长度。

7_6.png

 因为节点的 previous_entry_length 属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址。  举个例子,如果我们有一个指向当前节点起始地址的指针 c,那么我们只要用指针 c 减去当前节点 previous_entry_length 属性的值,就可以得出一个指向前一个节点起始地址的指针 p,如图 7-7 所示。

7_7.png  Redis 设计与实现书中有个实例描述了从表尾节点向表头节点进行遍历的完整过程,这里就不描述了。

encoding

 节点的 encoding 属性记录了节点的 content 属性所保存数据的类型以及长度:

  • 一字节、两字节或者五字节长,值的最高位为 00、01 或者 10 的是字节数组编码:这种编码表示节点的 content 属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
  • 一字节长,值的最高位以 11 开头的是整数编码:这种编码表示节点的 content 属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;

 表 7-2 记录了所有可用的字节数组编码,而表 7-3 则记录了所有可用的整数编码。表格中的下划线 _ 表示留空,而 b、x 等变量则代表实际的二进制数据,为了方便阅读,多个字节之间用空格隔开。

 表 7-2 字节数组编码如下:

编码编码长度content 属性保存的值
00bbbbbb1 字节长度小于等于 63 字节的字节数组。
01bbbbbb xxxxxxxx2 字节长度小于等于 16383 字节的字节数组。
10______ aaaaaaaa bbbbbbbb cccccccc dddddddd5 字节长度小于等于 4294967295 的字节数组。

 表 7-3 整数编码如下:

编码编码长度content 属性保存的值
110000001 字节int16_t 类型的整数。
110100001 字节int32_t 类型的整数。
111000001 字节int64_t 类型的整数。
111100001 字节24 位有符号整数。
111111101 字节8 位有符号整数。
1111xxxx1 字节使用这一编码的节点没有相应的 content 属性, 因为编码本身的 xxxx 四个位已经保存了一个介于 0 和 12 之间的值, 所以它无须 content 属性。

content

 节点的 content 属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的 encoding 属性决定。
 图 7-9 展示了一个保存字节数组的节点示例:

  • 编码的最高两位 00 表示节点保存的是一个字节数组;
  • 编码的后六位 001011 记录了字节数组的长度 11;
  • content 属性保存着节点的值 "hello world" 。
7_9.png

 图 7-10 展示了一个保存整数值的节点示例:

  • 编码 11000000 表示节点保存的是一个 int16_t 类型的整数值;
  • content 属性保存着节点的值 10086。
7_10.png

连锁更新

 Redis 在特殊情况下产生的连续多次空间扩展操作称之为“连锁更新”。除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新。
 因为连锁更新在最坏情况下需要对压缩列表执行 N 次空间重分配操作,而每次空间重分配的最坏复杂度为 O(N),所以连锁更新的最坏复杂度为 O(N^2)。  要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的:

  • 首先,压缩列表里要恰好有多个连续的、长度介于 250 字节至 253 字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见;
  • 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的;  因为以上原因,ziplistPush 等命令的平均复杂度仅为 O(N),在实际中,我们可以放心地使用这些函数,而不必担心连锁更新会影响压缩列表的性能。

压缩列表 API

 见 压缩列表的所有操作 APIopen in new window

思考

TIP

  • 压缩列表是怎么节省内存的?
  • 压缩列表可以实现列表对象、哈希对象、有序集合对象。

参考文献

Last Updated 2/18/2025, 5:05:12 PM