学习Protobuf,ZigZag是啥你真的知道么?

简介:

结合上一篇文章《学习Protobuf,Varint是啥你真的知道么?》,我们了解到通过Varint 编码整数,如遇到负数或大整数,就不具备压缩优势了?由于引入了MSB,不但没有好的压缩效果,还加大了存储,这明显不是我们想要的。以下,我们聊聊怎么解决这类问题。

这篇文章,也是学习Protobuf过程中偶然所得,算法简洁,篇幅较短,预计阅读时间 8 分钟,如果对您有帮助,还望不吝评价,求点赞、求评论、求转发

在聊ZigZag算法之前,我们先聊聊进制原码反码补码相关的知识点,如果你懂,可跳过直接往下翻。

什么是进制?

所谓进制,就是当某一位上的信息满时,需要往前进位。比如,十进制,就是当某一位上的数满十时进位;而某一位上的数满二时进位就是二进制,等等。

进位之间都可以相互转化,例如: 十进制:10 → 二进制:1010 → 十六进制:A

我之前看过一个答案,说:为什么十进制比较通用? 因为咱人类只有 10 个手指头,数一遍刚好十个数,所以十进制自然就成为默认的进制。那如果人类长 11 手指头,说不定就是十一进制。

后来计算机的出现,一个数据的有无是最天然的信息承载单元,所以由 0 和 1 组成的二进制很自然成为计算机的进制方式。—— 老苗

计算机系统里面对二进制定义了原码反码补码,为了更简单的理解,后续我们用1 Byte=8 bits进行讲解。

原码是啥?

定义: 用第一位表示符号(0为非负,1为负数),其余位表示值,如下:

  • +8 -> 原码:0000 1000
  • -8 -> 原码:1000 1000

有了原码的表示方法就可以对数进行算法运算,但是很快就发现用带符号位的原码进行乘除运算结果正确,但在加减运算时就出现了问题,如下:

乘法规则:符号位做“异或”运算,数值位做类似十进制的“乘法”运算
十进制:+8 * (-8) = -64
原码:0000 1000 * 1000 1000 = 1100 0000 = -64

十进制:+8 + (-8) = 0
原码:0000 1000 + 1000 1000 = 1001 0000 = -16  # 显然不正确

看起来加法运算也没什么问题,发现问题是出在符号位上?于是计算机大佬们引入了反码

反码都做了啥?

定义: 用第一位表示符号(0为非负,1为负数),其余位,非负数保持不变,负数按位求反,如下:

  • +8 -> 原码:0000 1000 -> 反码:0000 1000
  • -8 -> 原码:1000 1000 -> 反码:1111 0111

我们继续进行上述的加法运算

  • 十进制:+8 + (-8) = 0
  • 反码:0000 1000 + 1111 0111 = 1111 1111 = -0

竟然结果是-0,这个结果让人猝不及防啊!!!

分析发现,如果用原码 + 补码表示二进制计算,表面上看,似乎挺好的。不过仔细思考就会发现两个问题:

第一,0竟然可以用两种编码表示,+0 和 -0:

  • +0 -> 原码:0000 0000 -> 反码:0000 0000
  • -0 -> 原码:1000 0000 -> 反码:1111 1111

第二,计算机不清楚符号位的存在,因此参加运算后,会出现结果为-0这样的现象。

这看起来怪怪的,为了解决这些问题,计算机巨佬们又引入了补码

补码有啥用?

定义: 用第一位表示符号(0为非负,1为负数),剩下的位非负数保持不变,负数按位求反且末尾加一。

  • +8 -> 原码:0000 1000 -> 补码:0000 1000
  • -8 -> 原码:1000 1000 -> 补码:1111 1000

现在我们继续看看,把符号位带入运算会出现什么结果?

-> 8 + (-8)
-> 0000 1000 + 1111 1000
-> 0000 0000
-> 0

很明显,通过引入补码,我们解决了此类问题,计算机运算过程中,就不用关心符号问题,统一按照满二进一规则处理即可

好了,知识小点就说到这了,接下来,进入真正的主题。

ZigZag 是什么?

在大多数计算机系统中,我们通常使用定长整型(fixed length intergers)表示数值。比如:

  • 4 bytes表示Int32
  • 8 bytes表示Int64

为什么这样设置呢?这样能便于我们的计算机处理,加快处理的速度。

但是在系统网络通信(RPC)时,为了传输一个1,我们需要传输00000000 00000000 00000000 00000001 32 个 bits。这么多字符,而有价值的数据只有 1 位,这T&M也太浪费了呀!

那该怎么办呢?ZigZag算法由此而生。

ZigZag 的原理

编码介绍

ZigZag编码将有符号整数映射成无符号整数,以便绝对值较小的数字对应较小的编码值,比如:-1 -> 11 -> 2,具体如图:

原数 编码
0 0
-1 1
1 2
-2 3
2 4
... ...
-(2^31 -1) 2^32 - 3
2^31 -1 2^32 -2

如上,这种方式通常由正整数和负整数来回曲折编码,看着还挺有意思的。难道就因为这样,计算机大佬们才给取了个名字叫ZigZag(锯齿形线条)算法???

编码规则

  • a.非负整数,符号位后移
  • b.负整数,符号位后移,数据位按位求反

在大多数计算机系统中,以4 Bytes 8 Bytes 来表示整数(Int32、Int64)。下面我们选择Int32进行一个简单的演示,如下:

  • 十进制:0\
-   补 码 : **0**0000000 00000000 00000000 00000000\

-   ZigZag:00000000 00000000 00000000 0000000**0**
  • 十进制:1\
-   补 码 : **0**0000000 00000000 00000000 00000001\

-   ZigZag:00000000 00000000 00000000 0000001**0**
  • 十进制:-1\
-   补 码 : **1**1111111 11111111 11111111 11111111\

-   ZigZag:00000000 00000000 00000000 0000000**1**

解码规则

  • 类似编码,反向操作即可

ZigZag 编码实现(Python)

def int32_to_zigzag(n):
    return (n << 1) ^ (n >> 31)

ZigZag 解码实现(Python)

def zigzag_to_int32(zz):
    return (zz >> 1) ^ -(zz & 1)

总结一下

大多数情况下,通过ZigZag编码结合Varint算法,对整数都有好的压缩效果,但如果遇到绝对值大的整数,就不再具有压缩优势了。

不过,我们通常使用到的整数往往也都比较小。

参考文档

❤️❤️❤️读者每一份热爱都是笔者前进的动力! 我是三十一,感谢各位朋友:求点赞、求评论、求转发,大家下期见!

相关文章
|
6月前
|
Java 编译器 API
protobuf万字语法详解
当用protocol buffer编译器来运行.proto文件时,编译器将生成所选择语言的代码,这些代码可以操作在.proto文件中定义的消息类型,包括获取、设置字段值,将消息序列化到一个输出流中,以及从一个输入流中解析消息。
60 0
protobuf万字语法详解
|
5月前
|
开发工具 git
protobuf的复杂结构
protobuf的复杂结构
70 1
|
6月前
|
机器学习/深度学习 数据采集 人工智能
一文搞懂 One-Hot Encoding(独热编码)
一文搞懂 One-Hot Encoding(独热编码)
523 0
|
6月前
|
安全 数据处理 开发者
Boost序列化与Protobuf比较:深入分析 (Boost Serialization vs. Protobuf: An In-depth Comparison)...
Boost序列化与Protobuf比较:深入分析 (Boost Serialization vs. Protobuf: An In-depth Comparison)...
257 1
|
6月前
|
Python
在Python中,序数编码(Ordinal Encoding)
在Python中,序数编码(Ordinal Encoding)
150 6
|
6月前
|
存储 XML JSON
protobuf原理以及实例(Varint编码)
protobuf原理以及实例(Varint编码)
137 0
|
12月前
|
人工智能
不懂乐理,也能扒谱,基于openvpi将mp3转换为midi乐谱(Python3.10)
所谓"扒谱"是指通过听歌或观看演奏视频等方式,逐步分析和还原音乐作品的曲谱或乐谱的过程。它是音乐学习和演奏的一种常见方法,通常由音乐爱好者、乐手或学生使用。 在扒谱的过程中,人们会仔细聆听音乐作品,辨别和记录出各个音符、和弦、节奏等元素,并通过试错和反复推敲来逐渐还原出准确的曲谱或乐谱。这对于那些没有正式乐谱或想学习特定曲目的人来说,是一种有效的方式。 扒谱的目的是为了更好地理解和演奏音乐作品,从中学习技巧、乐曲结构和艺术表达等方面。但不懂乐理的人很难听出音符和音准,本次我们通过openvpi的开源项目some来直接针对mp3文件进行扒谱,将mp3转换为midi文件。
|
存储 网络协议 开发者
[oeasy]python0074[专业选修]字节序_byte_order_struct_pack_大端序_小端序
[oeasy]python0074[专业选修]字节序_byte_order_struct_pack_大端序_小端序
72 0
|
编解码
一文搞懂Base64编解码
一文搞懂Base64编解码
526 0
|
编解码 JSON 安全
IM通讯协议专题学习(四):从Base64到Protobuf,详解Protobuf的数据编码原理
本篇将从Base64再到Base128编码,带你一起从底层来理解Protobuf的数据编码原理。 本文结构总体与 Protobuf 官方文档相似,不少内容也来自官方文档,并在官方文档的基础上添加作者理解的内容(确保不那么枯燥),如有出入请以官方文档为准。
371 0
IM通讯协议专题学习(四):从Base64到Protobuf,详解Protobuf的数据编码原理