MySQL 表连接优化

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 概述表连接是业务场景中经常会出现的一种SQL类型,一般的,复杂的业务会存在大量的表连接查询。就性能而言,多表的连接的性能会很低。做好表连接优化也是提升业务性能的重要方面表连接语句认识表连接之前,先认识下表连接的类型。

概述

表连接是业务场景中经常会出现的一种SQL类型,一般的,复杂的业务会存在大量的表连接查询。就性能而言,多表的连接的性能会很低。做好表连接优化也是提升业务性能的重要方面

表连接语句

认识表连接之前,先认识下表连接的类型。一般的,表三种常见的表连接方式:

  • INNER JOIN:如果表中有至少一个匹配,则返回行
  • LEFT JOIN:即使右表中没有匹配,也从左表返回所有的行
  • RIGHT JOIN:即使左表中没有匹配,也从右表返回所有的行

inner join
只显示两表相互匹配的行

mysql>select a.user_id,a.name,a.sex,a.address,b.job,b.like from user a inner join user_info b on a.user_id = b.ifnoid;
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| user_id | name | sex | address | job | like |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| 1 | 小明 | 1 | 浙江杭州 | 老师 | 唱跳rap |
| 2 | 蓝天 | 1 | 浙江杭州 | 司机 | 阅读,汽车 |
| 3 | 小白 | 1 | 上海 | 程序员 | 游戏,电影 |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
返回行数:[3],耗时:6 ms.

left join
可以看到,左表中有的行而右表中的没有,右表的字段会用null值显示出来

mysql>select a.user_id,a.name,a.sex,a.address,b.job,b.like from user a left join user_info b on a.user_id = b.ifnoid;
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| user_id | name | sex | address | job | like |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| 1 | 小明 | 1 | 浙江杭州 | 老师 | 唱跳rap |
| 2 | 蓝天 | 1 | 浙江杭州 | 司机 | 阅读,汽车 |
| 3 | 小白 | 1 | 上海 | 程序员 | 游戏,电影 |
| 5 | 库洛洛 | 2 | 四川成都 | | |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
返回行数:[4],耗时:3 ms.

right join
右表中有的左表中没有行,会显示右表中的行,左表中会null值显示

mysql>select a.user_id,a.name,a.sex,a.address,b.job,b.like from user a right join user_info b on a.user_id = b.ifnoid;
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| user_id | name | sex | address | job | like |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| 1 | 小明 | 1 | 浙江杭州 | 老师 | 唱跳rap |
| 2 | 蓝天 | 1 | 浙江杭州 | 司机 | 阅读,汽车 |
| 3 | 小白 | 1 | 上海 | 程序员 | 游戏,电影 |
| | | | | 宇航员 | 悠悠球,篮球 |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
返回行数:[4],耗时:4 ms.

MySQL表连接算法

Nested-Loop Join算法

mysql的基本表连接算法是Nested-Loop Join,也就是我们常说的嵌套循环算法。一个简单的嵌套循环连接(NLJ)算法一次一个循环地从第一个表中读取行,将每一行传递给一个嵌套循环,该循环处理连接中的下一个表 。

对于一个t1,t2,t3,官方文档上给出一个伪代码如下:

for each row in t1 matching range {
  for each row in t2 matching reference key {
    for each row in t3 {
      if row satisfies join conditions, send to client
    }
  }
}

这里是假设有三张表t1,t2,t3.分别使用类型为range,ref,all来连接,从伪代码中可以看出
t3表会被全表扫,然后依次去读取t1和t2上 的数据,t3一般就被称为驱动表,MySQL 的优化器自称是可以智能选择结果集最小的表作为驱动表,根据算法来看,结果集较小的驱动表确实可以使循环次数减少,达到优化的目的。

Block Nested-Loop join算法

除了嵌套循环之外,官方文档上还介绍了 一种块循环算法,将外层循环的数据存在join buffer中,内层循环中的表会和buffer中的数据进行对比,从而减少循环次数
官方文档给出一个表达式,来表述循环次数的关系

(S * C)/join_buffer_size + 1

以上面的t1,t2,t3三表连接为例,S表示t1,t2组合在缓存中的大小,C是这些组合在buffer中的数量,整个式子就是t3被扫描的次数

可以看出,join_buffer_size越大,扫描的次数越小,但是这个优化有上限,当join_buffer_size大到能够缓存所有之前的行组合,那么就是性能最好的时候,再增大这个值,也就没有优化效果了。

join 优化总结

从基础算法可以看出,一般情况下,这种嵌套循环的算法消耗非常高,尤其是时间上的消耗,我们在创建涉及到表连接的SQL时,一定要选择最优性能的SQL

一般的,表连接的SQL性能优化可从这几个方面入手

  • 索引优化
    在有索引的情况下,MySQL会尝试使用Index Nested-Loop Join算法,相对于简单的嵌套循环,性能会好一些。这就需要在必要的字段上建上索引

那对于左连接和右连接,建索引的列有不同,对于left join,左边的表会全部返回,右边则只返回匹配到的行,所以一般的,左连接的连接条件字段中,右表的字段最好需要一个索引,用来过滤不需要的行。相对的,对于right join 而言,表连接字段的左表字段的索引就显得十分重要了

那有时除了匹配字段之外,表连接会伴随着一些条件语句,如:

mysql>select a.user_id,a.name,a.sex,a.address,b.job,b.like from user a left join user_info b on a.user_id = b.ifnoid where a.sex = 1;
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| user_id | name | sex | address | job | like |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| 1 | 小明 | 1 | 浙江杭州 | 老师 | 唱跳rap |
| 2 | 蓝天 | 1 | 浙江杭州 | 司机 | 阅读,汽车 |
| 3 | 小白 | 1 | 上海 | 程序员 | 游戏,电影 |
+-------------------+----------------+---------------+-------------------+---------------+----------------+

对于这些有条件字段的语句,毫无疑问,需要索引的支持,过滤掉无需要的行数,来减少循环的次数。从而使SQL执行的更加迅速

  • 驱动表优化
    当进行多表连接查询时,驱动表的定义为:

1)指定了联接条件时,满足查询条件的记录行数少的表为驱动表
2)未指定联接条件时,行数少的表为驱动表

注意:如果搞不清楚该让谁做驱动表,谁join谁,可以让MySQL运行时自行判断

对于left和right join mysql的驱动表选择一般都是需要返回全部行的那个表,对于inner join和full join,一般情况下,mysql自己的优化器,智能选择较少的表作为驱动表,这样循环的效率会高很多。

此外,根据驱动表的字段进行排序,也会使表连接性能提升

select * from t1 a left join t2 b on a.id = b.id left join t3 c a.id = c.id ORDER BY a.id DESC ;

如果你实在难以确定驱动表的选择,可以去掉join,如下,mysql会选择最少的表作为驱动表,这会对你的选择给出建议

mysql>select a.user_id,a.name,a.sex,a.address,b.job,b.like from user a,user_info b where a.user_id = b.ifnoid;
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| user_id | name | sex | address | job | like |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
| 1 | 小明 | 1 | 浙江杭州 | 老师 | 唱跳rap |
| 2 | 蓝天 | 1 | 浙江杭州 | 司机 | 阅读,汽车 |
| 3 | 小白 | 1 | 上海 | 程序员 | 游戏,电影 |
+-------------------+----------------+---------------+-------------------+---------------+----------------+
  • join_buffer_size

    在join的操作需求,MySQL在完成某些join需求的时候(all row join/all index /scan join)为了减少参与join的“被驱动表”的读取次数以提高性能,需要使用到join buffer来协助完成join操作,当join buffer 太小,MySQL不会将该buffer存入磁盘文件而是先将join buffer中的结果与需求join的表进行操作,然后清空join buffer中的数据,继续将剩余的结果集写入次buffer中,如此往复,这势必会造成被驱动表需要被多次读取,成倍增加IO访问,降低效率(执行计划中如果现实using join buffer)

    也可以从上面的循环次数的配置可以看出,当join_buffer_size的值增大时,是可以减少循环的次数,相当于进行了一些优化

(S * C)/join_buffer_size + 1

MySQL5.7版本这个参数的默认值256K ,若是感觉过小,可以适当增加。最大值不能超过3GB

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
27天前
|
SQL 关系型数据库 MySQL
MySQL慢查询优化、索引优化、以及表等优化详解
本文详细介绍了MySQL优化方案,包括索引优化、SQL慢查询优化和数据库表优化,帮助提升数据库性能。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
MySQL慢查询优化、索引优化、以及表等优化详解
|
1月前
|
缓存 监控 关系型数据库
如何优化MySQL查询速度?
如何优化MySQL查询速度?【10月更文挑战第31天】
70 3
|
1月前
|
缓存 关系型数据库 MySQL
如何优化 MySQL 数据库的性能?
【10月更文挑战第28天】
72 1
|
2月前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:百万级数据统计优化实践
【10月更文挑战第21天】 在处理大规模数据集时,传统的单体数据库解决方案往往力不从心。MySQL和Redis的组合提供了一种高效的解决方案,通过将数据库操作与高速缓存相结合,可以显著提升数据处理的性能。本文将分享一次实际的优化案例,探讨如何利用MySQL和Redis共同实现百万级数据统计的优化。
94 9
|
1月前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
192 1
|
2月前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:优化百万数据查询的实战经验
【10月更文挑战第13天】 在处理大规模数据集时,传统的关系型数据库如MySQL可能会遇到性能瓶颈。为了提升数据处理的效率,我们可以结合使用MySQL和Redis,利用两者的优势来优化数据查询。本文将分享一次实战经验,探讨如何通过MySQL与Redis的协同工作来优化百万级数据统计。
67 5
|
2月前
|
存储 关系型数据库 MySQL
优化 MySQL 的锁机制以提高并发性能
【10月更文挑战第16天】优化 MySQL 锁机制需要综合考虑多个因素,根据具体的应用场景和需求进行针对性的调整。通过不断地优化和改进,可以提高数据库的并发性能,提升系统的整体效率。
100 1
|
2月前
|
缓存 关系型数据库 MySQL
一文彻底弄懂MySQL优化之深度分页
【10月更文挑战第24天】本文深入探讨了 MySQL 深度分页的原理、常见问题及优化策略。首先解释了深度分页的概念及其带来的性能和资源问题。接着介绍了基于偏移量(OFFSET)和限制(LIMIT)以及基于游标的分页方法,并分析了它们的优缺点。最后,提出了多种优化策略,包括合理创建索引、优化查询语句和使用数据缓存,帮助提升分页查询的性能和系统稳定性。
157 1
|
2月前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:百万数据量的优化实录
【10月更文挑战第6天】 在现代互联网应用中,随着用户量的增加和业务逻辑的复杂化,数据量级迅速增长,这对后端数据库系统提出了严峻的挑战。尤其是当数据量达到百万级别时,传统的数据库解决方案往往会遇到性能瓶颈。本文将分享一次使用MySQL与Redis协同优化大规模数据统计的实战经验。
145 3
|
2月前
|
NoSQL 关系型数据库 BI
记录一次MySQL+Redis实现优化百万数据统计的方式
【10月更文挑战第13天】 在处理百万级数据的统计时,传统的单体数据库往往力不从心,这时结合使用MySQL和Redis可以显著提升性能。以下是一次实际优化案例的详细记录。
147 1