解密MySQL 8.0 multi-valued indexes

简介: 解密MySQL 8.0 multi-valued indexes

什么是multi-valued index

MySQL 8.0.17起,InnoDB引擎新增了对JSON数据类型的多值索引,即multi-valued index。它的作用是针对JSON数据类型中,同一条记录有多个值的情况,加上索引后,根据这些值条件查询时,也可以指向同一条数据。

假设有一条数据是 { "user":"Bob","zipcode":[94477,94536]},意为Bob这位用户,他拥有多个邮编"94477"和"94536",这时候如果我们想对zipcode属性加索引,就可以选择使用多值索引了,在以往是不支持这个方式的。可以像下面这样创建索引:(建议在PC端或横版观看,下同)

[root@yejr.me]> CREATE INDEX zips ON t1((
CAST(data->'$.zipcode' AS UNSIGNED ARRAY)));

在本例中的多值索引实际上是采用基于CAST()的函数索引,CAST()转换后选择的数据类型除了BINARY和JSON,其他都可以支持。目前multi-valued index只针对InnoDB表中的JSON数据类型,其余场景还不支持。

multi-valued index怎么用

我们来看下一个JSON列怎么创建multi-valued index。

# 创建测试表

[root@yejr.me]> CREATE TABLE customers (
id INT NOT NULL AUTO_INCREMENT,
custinfo JSON,
primary key(id)
)engine=innodb;

# 写入5条测试数据
[root@yejr.me]> INSERT INTO customers(custinfo) VALUES
('{"user":"Jack","user_id":37,"zipcode":[94582,94536]}'),
('{"user":"Jill","user_id":22,"zipcode":[94568,94507,94582]}'),
('{"user":"Bob","user_id":31,"zipcode":[94477,94507]}'),
('{"user":"Mary","user_id":72,"zipcode":[94536]}'),
('{"user":"Ted","user_id":56,"zipcode":[94507,94582]}');

# 执行查询,此时还没创建索引,需要全表扫描
[root@yejr.me]> DESC SELECT * FROM customers WHERE
JSON_CONTAINS(custinfo->'$.zipcode',
CAST('[94507,94582]' AS JSON))\G
1. row
...
type: ALL
possible_keys: NULL
key: NULL
...
rows: 5
filtered: 100.00
Extra: Using where

# 创建multi-valued index
[root@yejr.me]> ALTER TABLE customers ADD INDEX
zips((CAST(custinfo->'$.zipcode' AS UNSIGNED ARRAY)));

# 查看新的执行计划,可以走索引
[root@yejr.me]> DESC SELECT * FROM customers WHERE
JSON_CONTAINS(custinfo->'$.zipcode',
CAST('[94507,94582]' AS JSON))\G
1. row
...
type: range
possible_keys: zips
key: zips
key_len: 9
ref: NULL
rows: 6
filtered: 100.00
Extra: Using where; Using MRR


multi-valued index底层是怎么存储的

知道multi-valued index怎么用之后,再来看下它底层是怎么存储索引数据的。以上面的customers表为例,我们利用innblock和bcview工具来确认InnoDB底层是怎么存储的。

1. 先找到辅助索引page

先用innblock工具确认辅助索引zips在哪个page上。

[root@yejr.me]# innblock customers.ibd scan 16
...
===INDEX_ID:56555
level0 total block is (1)
block_no: 4,level: 0|*|
===INDEX_ID:56556
level0 total block is (1)
block_no: 5,level: 0|*|

由于数据量很小,这两个索引都只需要一个page就能放下,辅助索引keys存储在5号page上。

2. 扫描确认辅助索引数据

继续用innblock扫描辅助索引,确认有多少条数据。

[root@yejr.me]# innblock customers.ibd 5 16
...
-----Total used rows:12 used rows list(logic):
(1) INFIMUM record offset:99 heapno:0 n_owned 1,delflag:N minflag:0 rectype:2
(2) normal record offset:216 heapno:7 n_owned 0,delflag:N minflag:0 rectype:0
(3) normal record offset:162 heapno:4 n_owned 0,delflag:N minflag:0 rectype:0
(4) normal record offset:234 heapno:8 n_owned 0,delflag:N minflag:0 rectype:0
(5) normal record offset:270 heapno:10 n_owned 0,delflag:N minflag:0 rectype:0
(6) normal record offset:126 heapno:2 n_owned 5,delflag:N minflag:0 rectype:0
(7) normal record offset:252 heapno:9 n_owned 0,delflag:N minflag:0 rectype:0
(8) normal record offset:180 heapno:5 n_owned 0,delflag:N minflag:0 rectype:0
(9) normal record offset:144 heapno:3 n_owned 0,delflag:N minflag:0 rectype:0
(10) normal record offset:198 heapno:6 n_owned 0,delflag:N minflag:0 rectype:0
(11) normal record offset:288 heapno:11 n_owned 0,delflag:N minflag:0 rectype:0
(12) SUPREMUM record offset:112 heapno:1 n_owned 6,delflag:N minflag:0 rectype:3
-----Total used rows:12 used rows list(phy):
(1) INFIMUM record offset:99 heapno:0 n_owned 1,delflag:N minflag:0 rectype:2
(2) SUPREMUM record offset:112 heapno:1 n_owned 6,delflag:N minflag:0 rectype:3
(3) normal record offset:126 heapno:2 n_owned 5,delflag:N minflag:0 rectype:0
(4) normal record offset:144 heapno:3 n_owned 0,delflag:N minflag:0 rectype:0
(5) normal record offset:162 heapno:4 n_owned 0,delflag:N minflag:0 rectype:0
(6) normal record offset:180 heapno:5 n_owned 0,delflag:N minflag:0 rectype:0
(7) normal record offset:198 heapno:6 n_owned 0,delflag:N minflag:0 rectype:0
(8) normal record offset:216 heapno:7 n_owned 0,delflag:N minflag:0 rectype:0
(9) normal record offset:234 heapno:8 n_owned 0,delflag:N minflag:0 rectype:0
(10) normal record offset:252 heapno:9 n_owned 0,delflag:N minflag:0 rectype:0
(11) normal record offset:270 heapno:10 n_owned 0,delflag:N minflag:0 rectype:0
(12) normal record offset:288 heapno:11 n_owned 0,delflag:N minflag:0 rectype:0
...

可以看到,总共有12条记录,除去INFIMUM、SUPREMUM这两条虚拟记录,共有10条物理记录。为什么是10条记录,而不是5条记录呢,这是因为multi-valued index实际上是把每个zipcode value对都视为一天索引记录。再看一眼表数据:

[root@yejr.me]> select id, custinfo->'$.zipcode' from customers;
+----+-----------------------+
| id | custinfo->'$.zipcode' |
+----+-----------------------+
| 1 | [94582, 94536] |
| 2 | [94568, 94507, 94582] |
| 3 | [94477, 94507] |
| 4 | [94536] |
| 5 | [94507, 94582] |
+----+-----------------------+

上面写入的5条数据中,共有10个zipcode,虽然有些zipcode是相同的,但他们对应的id值不同,因此也要分别记录索引。也就是说, "zipcode":[94582,94536]这里的两个整型数据,实际上在索引树中,是两条独立的数据,只不过他们都分别指向id=1这条数据。那么,这个索引实际上存储的顺序就应该是下面这样才对:

+---------+------+
| zipcode | id |
+---------+------+
| 94477 | 3 |
| 94507 | 2 |
| 94507 | 3 |
| 94507 | 5 |
| 94536 | 1 |
| 94536 | 4 |
| 94568 | 2 |
| 94582 | 1 |
| 94582 | 2 |
| 94582 | 5 |
+---------+------+

提醒下,由于InnoDB的index extensions特性,辅助索引存储时总是包含聚集索引列值,若有两个值相同的辅助索引值,则会根据其聚集索引列值进行排序。当然了,以上也只是我们的推测,并不能实锤,直接去核对源码好像有点难度。好在可以用另一个神器bcview来查看底层数据。这里之所以没有采用innodb_space工具,是因为它对MySQL 5.7以上的版本兼容性不够好,有些场景下解析出来的可能是错误数据。

3. 用bcview工具确认结论

按照推测,zips这个索引按照逻辑顺序的话,第一条索引记录是 [94477,3]才对,上面看到第一条逻辑记录的偏移量是216,我们来看下。

# 从上面扫描结果可知,一条记录总消耗存储空间是18字节
bcview customers.ibd 16 216 18
...
# 这里为了排版方便,我给人为折行了
current block:00000005 --对应的pageno=5
--Offset:00216 --偏移量216
--cnt bytes:18 --读取18字节
--data is:000000000001710d80000003000000400024

来分析下这条数据,要拆分成几段来看。

000000000001710d,8字节(BIGINT),十六进制转成十进制,就是 94477
80000003,4字节(INT),对应十进制3,也就是id=3
000000400024,record headder,6字节,忽略

这表明推测结果是正确的。

另外,如果按照物理写入顺序,则第一条数据id=1这条数据:

+----+-----------------------+
| id | custinfo->'$.zipcode' |
+----+-----------------------+
| 1 | [94582, 94536] |
+----+-----------------------+

这条物理记录,共产生两条辅助索引记录,我们一次性扫描出来(36字节):

bcview customers.ibd 16 126 36
...
current block:00000005
--Offset:00126
--cnt bytes:36
--data is:000000000001714880000001000000180036000000000001717680000001000000200048
...

同上,解析结果见下(存储顺序要反着看):

0000000000017148 => 94536
80000001 => id=1
000000180036
0000000000017176 => 94582
80000001 => id=1
000000200048

可以看到,确实是把JSON里的多个值拆开来,对应到聚集索引后存储每个键值。至此,我们完全搞清楚了multi-valued index的底层存储结构。

            </div>
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
小程序 Linux 开发工具
Linux:进度条(小程序)以及git三板斧
Linux:进度条(小程序)以及git三板斧
165 2
|
开发工具 git
Git从远程仓库拉取指定的分支
Git从远程仓库拉取指定的分支
3436 0
|
5月前
|
人工智能 自然语言处理 搜索推荐
阿里巴巴首批企业级Agent来了!
阿里巴巴旗下瓴羊推出首批企业级Agent应用,包括“超级客服专家”和“超级电销专家”,基于多年电商经验与AI技术,显著提升客服与销售效率。通过自动化处理退换货、售后补发、线索筛选等任务,企业效率提升超60%,助力实现“人+Agent”协同新模式。
1205 0
|
机器学习/深度学习 PyTorch 算法框架/工具
揭秘深度学习中的微调难题:如何运用弹性权重巩固(EWC)策略巧妙应对灾难性遗忘,附带实战代码详解助你轻松掌握技巧
【10月更文挑战第1天】深度学习中,模型微调虽能提升性能,但常导致“灾难性遗忘”,即模型在新任务上训练后遗忘旧知识。本文介绍弹性权重巩固(EWC)方法,通过在损失函数中加入正则项来惩罚对重要参数的更改,从而缓解此问题。提供了一个基于PyTorch的实现示例,展示如何在训练过程中引入EWC损失,适用于终身学习和在线学习等场景。
1115 4
揭秘深度学习中的微调难题:如何运用弹性权重巩固(EWC)策略巧妙应对灾难性遗忘,附带实战代码详解助你轻松掌握技巧
|
10月前
|
机器学习/深度学习 人工智能 并行计算
一文了解火爆的DeepSeek R1 | AIGC
DeepSeek R1是由DeepSeek公司推出的一款基于强化学习的开源推理模型,无需依赖监督微调或人工标注数据。它在数学、代码和自然语言推理任务上表现出色,具备低成本、高效率和多语言支持等优势,广泛应用于教育辅导、金融分析等领域。DeepSeek R1通过长链推理、多语言支持和高效部署等功能,显著提升了复杂任务的推理准确性,并且其创新的群体相对策略优化(GRPO)算法进一步提高了训练效率和稳定性。此外,DeepSeek R1的成本低至OpenAI同类产品的3%左右,为用户提供了更高的性价比。
2960 11
|
人工智能 数据处理 Python
🔍数据侦探的AI助手:Prompt技巧大公开,洞察商业先机不手软
【8月更文挑战第1天】在数据驱动时代,AI助手作为数据侦探的强大伙伴,通过精心设计的AI Prompt技巧帮助解析复杂市场。案例中,一电商平台欲进入新兴市场,面临数据挑战。初始Prompt聚焦消费者偏好及影响因素分析。为进一步深化洞察,Prompt加入节假日购物模式、商品类别偏好及社交媒体影响等细节。结合领域知识,优化Prompt关注价格敏感度与定制化营销策略。最终,AI助手生成的报告揭示了消费者行为模式,并提出市场策略建议,助力电商成功布局新兴市场。此过程展示了AI Prompt在商业洞察中的关键作用,预示着其在未来洞察之旅中的广阔前景。
479 2
|
机器学习/深度学习 算法框架/工具 计算机视觉
ViT模型的出现标志着Transformer架构在计算机视觉中的成功应用
ViT模型的出现标志着Transformer架构在计算机视觉中的成功应用
243 2
|
机器学习/深度学习 PyTorch 算法框架/工具
彻底告别微调噩梦:手把手教你击退灾难性遗忘,让模型记忆永不褪色的秘密武器!
【10月更文挑战第5天】深度学习中,模型微调虽能提升性能,但也常导致灾难性遗忘,即学习新任务时遗忘旧知识。本文介绍几种有效解决方案,重点讲解弹性权重巩固(EWC)方法,通过在损失函数中添加正则项来防止重要权重被更新,保护模型记忆。文中提供了基于PyTorch的代码示例,包括构建神经网络、计算Fisher信息矩阵和带EWC正则化的训练过程。此外,还介绍了其他缓解灾难性遗忘的方法,如LwF、在线记忆回放及多任务学习,以适应不同应用场景。
1610 8
|
小程序 API 决策智能
Multi-Agent实践第1期:5分钟上手AgentScope
阿里云与魔搭社区联合举办Create@AI创客松,邀请开发者探索基于多智能体的人机协作模式。活动提供资源支持和专家指导,获胜者可获得近5万元现金奖励及6亿次千问调用额度。参赛者需准备大模型API,如DashScope或OpenAI,使用AgentScope开源框架开发多智能体应用。立即报名参加:[报名链接](https//startup.aliyun.com/special/aihackathon4)。