连接查询成本(2)---mysql进阶(四十二)

简介: 连接查询成本(2)---mysql进阶(四十二)

前面说了mysql每次索引优化是有成本的,先看全表扫描成本,在看索引扫描成本,最后选出最小成本,每次访问页的成本量大概是1,读取和效验数据是否符合条件,成本大概是0.2,读取和效验数据和文件排序等称为CPU成本,查询页等称为I/O成本。可以用show index from tb,来看表都有什么数据,其中cardinality表示重复率,比较重要

mysql基于成本的优化(1)---mysql进阶(四十一)


连接查询成本


为了连接表,我们在创建一个和single_table一样的表,single_table2,简称s2。

Condition filtering介绍

我们前面说过连接查询主要要查驱动表和被驱动表,被驱动表的查询次数,取决于驱动表查询出来的数据行数,所以成本为:


多次查询被驱动表成本


我们把驱动表查询出来的数据称为驱动表的扇出(fanout),显然扇出越小,被驱动查询次数越少,成本越低,所以成本可以看这个扇出值:

SELECT * FROM single_table AS s1 INNER JOIN single_table2 AS s2;

显然这是驱动表全表查询,我们前面统计了s1的数据9693行,所以扇出值为9693。

SELECT * FROM single_table AS s1 INNER JOIN single_table2 AS s
WHERE s1.key2 >10 AND s1.key2 < 1000;

此处很显然用key2唯一二级索引查询,我们前面计算了此区间的值由95条数据,所以扇出值是95。

但下面的sql就比较麻烦:

SELECT * FROM single_table AS s1 INNER JOIN single_table2 AS s2
   WHERE s1.common_field > 'xyz';

这里因为加了个非索引过滤值,查询优化器又不会真的去查询,只会猜9693有多少条数满足。

SELECT * FROM single_table AS s1 INNER JOIN single_table2 AS s2
   WHERE s1.key2 > 10 AND s1.key2 < 1000 AND
         s1.common_field > 'xyz';

这里就是在前面的区间95条的基础上,再猜多少符合非索引过滤的条件。

说了这么多,其实就是表达很多情况下,驱动表的扇值需要猜:

使用全部查询,计算扇出满足过滤条件时。

使用索引执行单表查询,那么需要把其他过滤条件计算满足多少。

Mysql吧这种猜的过程就叫做condition filter。


两个表连接的成本分析


连接查询的计算公式,总成本 = 单词访问驱动表成本 + 驱动表扇出 + 单次访问被驱动表成本。

对于左连接和右连接,驱动表是固定的,只要分别为驱动表和被驱动表找到最优的解决方法。

可对于内连接,驱动表和被驱动表是可以互换的,所以考虑两个方面,不同表作为驱动表成本不同,取最优

SELECT * FROM single_table AS s1 INNER JOIN single_table2 AS s2
   ON s1.key1 = s2.common_field
   WHERE s1.key2 > 10 AND s1.key2 < 1000 AND
         s2.key2 > 1000 AND s2.key2 < 2000;

很显然,内连接更麻烦一些,上面是一个内连接sql,

以s1为驱动表的话:

先用唯一索引确定驱动表的扇值,就是s1.key2>10 and s1.key2<1000的扇值。然后查询s2的条件就是 s.common_field = 值 和>1000 and <2000的两个条件,这时候可以选择全表查询或者索引查询+回表,我们假设索引成本更低。

这时候就是s1表key2的成本 + s1的扇出 * 使用s2.key2的访问成本

以s2为驱动表的话:

先用唯一所以s2.key2确定扇出,然后根据扇出值,查询s1的条件就是s1.key1 = 值 和 > 10 and <1000,这里第一个是ref访问,第二个是range访问,一般来说ref会快很多,所以我们这里默认采用第一个。

这时候成本 = s2表key2的成本 + s2的扇出 * 使用s1.key1的ref访问成本

从上面可以看出,成本主要来自扇出 个 被驱动表的访问成本,所以优化器会选择扇出更小和被驱动表访问成本更低的来查询。


多表连接成本分析


对于两个表连接,连接顺序:2*1 = 2

对于三个表连接,连接顺序:3*2*1 = 6

对于四个表连接,连接顺序:4*3*2*1=24

这种n的阶层连接顺序也就是叫n!

那么每次都全部分析一遍不是很耗费成本吗?mysql有几种解决办法:

提前结束计算:比如ABC三个表连接,维护一个全局最低成本变量,当ABC成本已经最低时候,bc计算的成本大于最低成本就直接取消,不计算bcd了。

系统变量optimizer_search_depth:mysql设置了当前变量,若越大,成本分析越精确,越有好的执行结果,但耗时,否则得不到好的执行结果,但很节约时间。

启发式规则:mysql有启发式规则和系统变量,凡事不满足这些规则的,直接不分析,这样也导致会错失最优执行计划。

调节成本常数

我们前面介绍了两个成本常量,一个是刷新页为1.0,一个是cpu排序或者读取效验数据是0.2,我们可以从数据库看到这两张表。

mysql> SHOW TABLES FROM mysql LIKE '%cost%';
+--------------------------+
| Tables_in_mysql (%cost%) |
+--------------------------+
| engine_cost              |
| server_cost              |
+--------------------------+
2 rows in set (0.00 sec)

我们在第一章说过,一条语句执行分为server和存储引擎。

Server管理:连接管理,查询缓存,语法解析,sql优化等,这里是没有涉及到数据的,也就是和操作引擎没有关系,所以这些操作的成本常量都在server.cost表里。

mysql> SELECT * FROM mysql.server_cost;
+------------------------------+------------+---------------------+---------+
| cost_name                    | cost_value | last_update         | comment |
+------------------------------+------------+---------------------+---------+
| disk_temptable_create_cost   |       NULL | 2021-03-14 10:20:20 | NULL    |
| disk_temptable_row_cost      |       NULL | 2021-03-14 10:20:20 | NULL    |
| key_compare_cost             |       NULL | 2021-03-14 10:20:20 | NULL    |
| memory_temptable_create_cost |       NULL | 2021-03-14 10:20:20 | NULL    |
| memory_temptable_row_cost    |       NULL | 2021-03-14 10:20:20 | NULL    |
| row_evaluate_cost            |       NULL | 2021-03-14 10:20:20 | NULL    |
+------------------------------+------------+---------------------+---------+
6 rows in set (0.02 sec)

Cost_name:名称。

Cost_Value:对应的值,null表示默认值。

后面两个表示最后更新时间和注释。

Dis_temptable_create_cost:默认值40.0,创建磁盘临时表成本,增大这个值,会让磁盘尽量少的创建临时表

Dis_temptable_row_cost:默认值1.0,向磁盘写入或者读取一条数据,增大这个值,会让磁盘尽量少的创建临时表。

Key_compare_cost:默认值0.1,两条记录作比较,多用在操作顺序上,增大这个值会提升filesort成本,让优化器更倾向使用索引排序而不是filesort。

Memory_temptable_create_cost:默认值2.0,创建基于内存的临时表成本,如果增大,优化器会尽力创建少的内存临时表。

Memory_temptable_row_cost:默认值0.2,向内存写入或者读取一条数据,如果增大,优化器会尽力创建少的内存临时表。

Row_evaluate_cos:默认值0.2,这是一直用于检测一条记录是否符合搜索条件成本,若增大,会倾向全盘扫描

注意:mysql在执行distinct查询,分组查询,union等特殊查询时候,会在内部创建临时表,比如distinct查询会先在内部建一个unique索引的临时表,吧结果集放入这个表中,临时表在内存创建还是在磁盘创建,取决于数据量的大小,太大就只能在磁盘上创建。

如果想修改他当然是可以修改的,但修改完之后需要执行刷新语句:

UPDATE mysql.server_cost
   SET cost_value = 0.4
   WHERE cost_name = 'row_evaluate_cost';
//刷新语句
FLUSH OPTIMIZER_COSTS;

当然若想改回默认值,直接set null就好,然后执行flush optimizer_costs。

engine_cost表如下:

mysql> select * from mysql.engine_cost;
+-------------+-------------+------------------------+------------+---------------------+---------+
| engine_name | device_type | cost_name              | cost_value | last_update         | comment |
+-------------+-------------+------------------------+------------+---------------------+---------+
| default     |           0 | io_block_read_cost     |       NULL | 2021-03-14 10:20:20 | NULL    |
| default     |           0 | memory_block_read_cost |       NULL | 2021-03-14 10:20:20 | NULL    |
+-------------+-------------+------------------------+------------+---------------------+---------+
2 rows in set (0.01 sec)

与前面相比,这里多了两列:

engine_name:指使用搜素引擎的名字,default默认全部适用

device_type:指使用的设备,固态硬盘还是机械硬盘0表示默认。

Io_block_read_cost:默认值1.0,从磁盘上读取一块对应的成本。在innodb引擎块就是页的概念,不过对于mySIMA来说,4096为一块。增大这个会加重I/O成本,让优化器倾向索引查询而不是全表查询。

Memory_block_Read_cost:默认值1.0,从内存读取一块的成本。

这里为什么内存和磁盘读取是一样的成本呢,因为mysql不能区分当前数据到底在内存还是在磁盘。。0.0

同理也可以更改这些数据。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
3月前
|
SQL 缓存 监控
MySQL缓存机制:查询缓存与缓冲池优化
MySQL缓存机制是提升数据库性能的关键。本文深入解析了MySQL的缓存体系,包括已弃用的查询缓存和核心的InnoDB缓冲池,帮助理解缓存优化原理。通过合理配置,可显著提升数据库性能,甚至达到10倍以上的效果。
|
3月前
|
SQL 存储 关系型数据库
MySQL体系结构详解:一条SQL查询的旅程
本文深入解析MySQL内部架构,从SQL查询的执行流程到性能优化技巧,涵盖连接建立、查询处理、执行阶段及存储引擎工作机制,帮助开发者理解MySQL运行原理并提升数据库性能。
|
3月前
|
SQL 关系型数据库 MySQL
MySQL的查询操作语法要点
储存过程(Stored Procedures) 和 函数(Functions) : 储存过程和函数允许用户编写 SQL 脚本执行复杂任务.
243 14
|
3月前
|
SQL 关系型数据库 MySQL
MySQL的查询操作语法要点
以上概述了MySQL 中常见且重要 的几种 SQL 查询及其相关概念 这些知识点对任何希望有效利用 MySQL 进行数据库管理工作者都至关重要
123 15
|
3月前
|
SQL 监控 关系型数据库
SQL优化技巧:让MySQL查询快人一步
本文深入解析了MySQL查询优化的核心技巧,涵盖索引设计、查询重写、分页优化、批量操作、数据类型优化及性能监控等方面,帮助开发者显著提升数据库性能,解决慢查询问题,适用于高并发与大数据场景。
|
3月前
|
SQL Java 关系型数据库
Java连接MySQL数据库环境设置指南
请注意,在实际部署时应该避免将敏感信息(如用户名和密码)硬编码在源码文件里面;应该使用配置文件或者环境变量等更为安全可靠地方式管理这些信息。此外,在处理大量数据时考虑使用PreparedStatement而不是Statement可以提高性能并防止SQL注入攻击;同时也要注意正确处理异常情况,并且确保所有打开过得资源都被正确关闭释放掉以防止内存泄漏等问题发生。
150 13
|
3月前
|
SQL 关系型数据库 MySQL
MySQL数据库连接过多(Too many connections)错误处理策略
综上所述,“Too many connections”错误处理策略涉及从具体参数配置到代码层面再到系统与架构设计全方位考量与改进。每项措施都需根据具体环境进行定制化调整,并且在执行任何变更前建议先行测试评估可能带来影响。
1086 11
|
3月前
|
SQL 关系型数据库 MySQL
排除通过IP访问MySQL时出现的连接错误问题
以上步骤涵盖了大多数遇到远程连接 MySQL 数据库时出现故障情形下所需采取措施,在执行每个步骤后都应该重新尝试建立链接以验证是否已经解决问题,在多数情形下按照以上顺序执行将能够有效地排除并修复大多数基本链接相关故障。
355 3
|
3月前
|
SQL 监控 关系型数据库
查寻MySQL或SQL Server的连接数,并配置超时时间和最大连接量
以上步骤提供了直观、实用且易于理解且执行的指导方针来监管和优化数据库服务器配置。务必记得,在做任何重要变更前备份相关配置文件,并确保理解每个参数对系统性能可能产生影响后再做出调节。
401 11
|
4月前
|
存储 关系型数据库 MySQL
修复.net Framework4.x连接MYSQL时遇到utf8mb3字符集不支持错误方案。
通过上述步骤大多数情况下能够解决由于UTF-encoding相关错误所带来影响,在实施过程当中要注意备份重要信息以防止意外发生造成无法挽回损失,并且逐一排查确认具体原因以采取针对性措施解除障碍。
272 12

推荐镜像

更多