Protobuf教程(二)---核心编码原理
本章主要记录了 protobuf 的核心编码原理,包括 Varint 编码、ZigZag编码及 protobuf 特有的 Message Structure 编码结构等。
Protocol buffers 核心就是对单个数据的编码(Varint 编码)以及对数据整体的编码(Message Structure 编码)。
1. Varint 编码
protobuf 编码主要依赖于 Varint 编码。
原理
Varint 是一种紧凑的表示数字的方法。它用一个或多个字节来表示一个数字,值越小的数字使用越少的字节数。这能减少用来表示数字的字节数。
Varint 中的每个字节(最后一个字节除外)都设置了最高有效位(msb),这一位表示是否还会有更多字节出现。每个字节的低 7 位用于以 7 位组的形式存储数字的二进制补码表示,最低有效组首位。
最高位为1代表后面7位仍然表示数字,否则为0,后面7位用原码补齐。
如果用不到 1 个字节,那么最高有效位设为 0 ,如下面这个例子,1 用一个字节就可以表示,所以 msb 为 0.
|
|
如果需要多个字节表示,msb 就应该设置为 1 。例如 300,如果用 Varint 表示的话:
|
|
编码方式
1)将被编码数转换为二进制表示
2)从低位到高位按照 7位 一组进行划分
3)将大端序转为小端序,即以分组为单位进行首尾顺序交换
- 因为 protobuf 使用是小端序,所以需要转换一下
4)给每组加上最高有效位(最后一个字节高位补0,其余各字节高位补1)组成编码后的数据。
5)最后转成 10 进制。
图中对数字123456进行 varint 编码:
- 1)123456 用二进制表示为
1 11100010 01000000
, - 2)每次从低向高取 7位 变成
111
1000100
1000000
- 3)大端序转为小端序,即交换字节顺序变成
1000000
1000100
111
- 4)然后加上最高有效位(即:最后一个字节高位补0,其余各字节高位补1)变成
11000000
11000100
00000111
- 5)最后再转成 10进制,所以经过 varint 编码后 123456 占用三个字节分别为
192 196 7
。
解码的过程就是将字节依次取出,去掉最高有效位,因为是小端排序所以先解码的字节要放在低位,之后解码出来的二进制位继续放在之前已经解码出来的二进制的高位最后转换为10进制数完成varint编码的解码过程。
缺点
负数需要10个字节显示(因为计算机定义负数的符号位为数字的最高位)。
具体是先将负数是转成了 long 类型,再进行 varint 编码,这就是占用 10个 字节的原因了。
protobuf 采取的解决方式:使用 sint32/sint64 类型表示负数,通过先采用 Zigzag 编码,将正数、负数和0都映射到无符号数,最后再采用 varint 编码。
具体实现
github.com/golang/protobuf
编码
|
|
解码
|
|
2. ZigZag编码
原理
ZigZag 是将符号数统一映射到无符号号数的一种编码方案,具体映射函数为:
|
|
比如:对于0 -1 1 -2 2映射到无符号数 0 1 2 3 4。
原始值 | 映射值 |
---|---|
0 | 0 |
-1 | 1 |
1 | 2 |
2 | 3 |
-2 | 4 |
具体实现
编码
|
|
解码
|
|
3. Message Structure 编码
protocol buffer 中 message 是一系列键值对。message 的二进制版本只是使用字段号(field’s number 和 wire_type)作为 key。每个字段的名称和声明类型只能在解码端通过引用消息类型的定义(即 .proto
文件)来确定。这一点也是人们常常说的 protocol buffer 比 JSON,XML 安全一点的原因,如果没有数据结构描述 .proto
文件,拿到数据以后是无法解析成正常的数据的。
编码后结果如下
当消息编码时,键和值被连接成一个字节流。当消息被解码时,解析器需要能够跳过它无法识别的字段。这样,可以将新字段添加到消息中,而不会破坏不知道它们的旧程序。这就是所谓的 “向后”兼容性。
1. wire_type
在 protobuf 中的 wire_type 取值如下表:
Type | Meaning | Userd For |
---|---|---|
0 | Varint | int32,int64,uint32,uint64,sint32,sint64,bool,enum |
1 | 64-bit | fixed64,sfix64,double |
2 | Length-delimited | string,bytes,embedded messages,oacked repeated field |
3 | Strart Group | groups(deprecated) |
4 | End Group | groups(deprecated) |
5 | 32-bit | fixed 32,sfixed32,float |
其中 3、4已经废弃了,可选值为0、1、2、5。
2. Tag
key 是使用该字段的 field_number 与wire_type 取|(或运算)后的值,field_number 是定义 proto 文件时使用的 tag 序号
|
|
左移3位是因为wire_type最大取值为5,需要占3个bit,这样左移+或运算之后得到的结果就是,高位为field_number,低位为wire_type。
比如下面这个 message
|
|
field_number=1,wire_type=0,按照公式计算(1«3|0)
结果就是 1000。
低三位 000 表示wire_type = 0;
高位 1 表示 field_number = 1。
再使用 Varints 编码后结果就是 08
3. Signed Integers 编码
Google Protocol Buffer 定义了 sint32 这种类型,采用 zigzag 编码。将所有整数映射成无符号整数,然后再采用 varint 编码方式编码,这样,绝对值小的整数,编码后也会有一个较小的 varint 编码值。
4. Non-varint Numbers
Non-varint 数字比较简单,double 、fixed64 的 wire_type 为 1,在解析时告诉解析器,该类型的数据需要一个 64 位大小的数据块即可。同理,float 和 fixed32 的 wire_type 为5,给其 32 位数据块即可。两种情况下,都是高位在后,低位在前。
说 Protocol Buffer 压缩数据没有到极限,原因就在这里,因为并没有压缩 float、double 这些浮点类型。
5. 字符串
wire_type 类型为 2 的数据,是一种指定长度的编码方式:key + length + content
,key 的编码方式是统一的,length 采用 varints 编码方式,content 就是由 length 指定长度的 Bytes。
举例,假设定义如下的 message 格式:
|
|
设置该值为"testing",二进制格式查看:
|
|
74 65 73 74 69 6e 67 是“testing”的 UTF8 代码。
此处,key 是16进制表示的,所以展开是:
12 -> 0001 0010,后三位 010 为 wire type = 2,0001 0010 右移三位为 0000 0010,即 tag = 2。
length 此处为 7,后边跟着 7 个bytes,即我们的字符串"testing"。
所以 wire_type 类型为 2 的数据,编码的时候会默认转换为 T-L-V (Tag - Length - Value)的形式。
6. 嵌入式 message
假设,定义如下嵌套消息:
|
|
设置字段为整数150,编码后的字节为:
|
|
08 96 01 这三个代表的是 150,上面讲解过,这里就不再赘述了。
1a -> 0001 1010,后三位 010 为 wire type = 2,0001 1010 右移三位为 0000 0011,即 tag = 3。
length 为 3,代表后面有 3 个字节,即 08 96 01 。
需要转变为 T - L - V 形式的还有 string, bytes, embedded messages, packed repeated fields (即 wire_type 为 2 的形式都会转变成 T - L - V 形式)
7. Packed Repeated Fields
在 proto3 中 Repeated 字段默认就是以这种方式处理。对于 packed repeated 字段,如果 message 中没有赋值,则不会出现在编码后的数据中。否则的话,该字段所有的元素会被打包到单一一个 key-value 对中,且它的 wire_type=2,长度确定。每个元素正常编码,只不过其前没有标签 tag。例如有如下 message 类型:
|
|
构造一个 Test4 字段,并且设置 repeated 字段 d 3个值:3,270和86942,编码后:
|
|
形成了 Tag - Length - Value - Value - Value …… 对。
只有原始数字类型(使用varint,32位或64位)的重复字段才可以声明为“packed”。
有一点需要注意,对于 packed 的 repeated 字段,尽管通常没有理由将其编码为多个 key-value 对,编码器必须有接收多个 key-pair 对的准备。这种情况下,payload 必须是串联的,每个 pair 必须包含完整的元素。
Protocol Buffer 解析器必须能够解析被重新编译为 packed 的字段,就像它们未被 packed 一样,反之亦然。这允许以正向和反向兼容的方式将[packed = true]添加到现有字段。
4. 小结
Protocol Buffer 利用 Varint
原理压缩数据,同时使用 Tag - Value (Tag - Length - Value)
的编码结构的实现,减少了分隔符的使用,数据存储更加紧凑。
protocol buffers 在序列化方面,与 XML 相比,有诸多优点:
- 更加简单
- 数据体积小 3- 10 倍
- 更快的反序列化速度,提高 20 - 100 倍
- 可以自动化生成更易于编码方式使用的数据访问类
5. 参考
https://halfrost.com/protobuf_encode
https://developers.google.com/protocol-buffers/docs/encoding
https://juejin.cn/post/6844903953327456263