【笔记】SQL调优指南—SQL调优进阶—查询优化器介绍

简介: 查询优化器通过优化逻辑计划从而输出物理计划,其主要阶段包含查询改写和计划枚举。本文将会介绍查询优化器的基本原理包含关系代数算子、查询改写(RBO阶段)、查询计划枚举(CBO阶段)。

PolarDB-X接收到一条SQL后的执行过程大致如下:333.png

  • 语法解析器(Parser)将SQL文本解析成抽象语法树(AST)。
  • 语法树被转化成基于关系代数的逻辑计划。
  • 优化器(Optimizer)对逻辑计划进行优化得到物理计划。
  • 执行器(Executor)执行该计划,得到查询结果并返回给客户端。

关系代数算子444.png一条SQL查询在数据库系统中通常被表示为一棵关系代数算子组成的树,有如下场景的算子:

  • Project:用于描述SQL中的SELECT列,包括函数计算。Agg:用于描述SQL中的Group By及聚合函数,其对应的物理算子有HashAgg、SortAgg。Sort:用于描述SQL中的Order By及Limit,其对应的物理算子有TopN、MemSort。
  • Filter:用于描述SQL中的WHERE条件。
  • JOIN:用于描述SQL中的JOIN,其对应的物理算子有HashJoin、 BKAJoin、Nested-Loop Join、SortMergeJoin等。
  • Agg:用于描述SQL中的Group By及聚合函数,其对应的物理算子有HashAgg、SortAgg。
  • Sort:用于描述SQL中的Order By及Limit,其对应的物理算子有TopN、MemSort。
  • 等等

例如,对于如下查询SQL


SELECT l_orderkey, sum(l_extendedprice *(1 - l_discount)) AS revenue
FROM CUSTOMER, ORDERS, LINEITEM
WHERE c_mktsegment = 'AUTOMOBILE'
  and c_custkey = o_custkey
  and l_orderkey = o_orderkey
  and o_orderdate < '1995-03-13'
  and l_shipdate > '1995-03-13'
GROUP BY l_orderkey;

通过如下EXPLAIN命令看到PolarDB-X的执行计划:


HashAgg(group="l_orderkey", revenue="SUM(*)")

HashJoin(condition="o_custkey = c_custkey", type="inner")
Gather(concurrent=true)
LogicalView(tables="ORDERS_[0-7],LINEITEM_[0-7]", shardCount=8, sql="SELECT `ORDERS`.`o_custkey`, `LINEITEM`.`l_orderkey`, (`LINEITEM`.`l_extendedprice` * (? - `LINEITEM`.`l_discount`)) AS `x` FROM `ORDERS` AS `ORDERS` INNER JOIN `LINEITEM` AS `LINEITEM` ON (((`ORDERS`.`o_orderkey` = `LINEITEM`.`l_orderkey`) AND (`ORDERS`.`o_orderdate` < ?)) AND (`LINEITEM`.`l_shipdate` > ?))")
Gather(concurrent=true)
LogicalView(tables="CUSTOMER_[0-7]", shardCount=8, sql="SELECT `c_custkey` FROM `CUSTOMER` AS `CUSTOMER` WHERE (`c_mktsegment` = ?)")

用树状图表示如下:555.png

查询改写(RBO)

查询改写(SQL Rewrite)阶段输入为逻辑执行计划,输出为逻辑执行计划。这一步主要应用一些启发式规则,是基于规则的优化器(Rule-Based Optimizer,简称RBO),所以也常被称为RBO阶段。

查询改写这一步的主要有如下功能:

  • 子查询去关联化(Subquery Unnesting)子查询去关联化是将含有关联项的子查询(关联子查询)表示为SemiJoin或类似的算子,便于后续的各种优化,例如下推到存储层MySQL或在PolarDB-X层选择某种算法执行。在如下例子中IN子查询转化为SemiJoin算子,并最终转化成SemiHashJoin物理算子由PolarDB-X进行执行:
> explain  select id from t1 where id in (select id from t2 where t2.name = 'hello');
SemiHashJoin(condition="id = id", type="semi")
Gather(concurrent=true)
LogicalView(tables="t1", shardCount=2, sql="SELECT `id` FROM `t1` AS `t1`")
Gather(concurrent=true)
LogicalView(tables="t2_[0-3]", shardCount=4, sql="SELECT `id` FROM `t2` AS `t2` WHERE (`name` = ?)")
  • 算子下推算子下推是非常关键的一步,PolarDB-X内置了如下算子的下推优化规则:
优化规则 描述
谓词下推或列裁剪 将Filter及Project算子下推至存储层MySQL执行,过滤掉不需要的行和列。
JOIN Clustering 将JOIN按照拆分方式及拆分键的等值条件进行重排和聚簇,方便下一步的JOIN下推。
JOIN下推 对于符合条件的JOIN,将其下推至存储层MySQL执行。
Agg下推 将聚合(Agg)拆分为FinalAgg和LocalAgg两个阶段,并将LocalAgg下推至存储层MySQL。
Sort下推 将排序(Sort)拆分为MergeSort和LocalSort两个阶段,并将LocalSort下推至存储层MySQL。

查询计划枚举(CBO)

查询改写阶段输出的逻辑执行计划会被输入到查询计划枚举(Plan Enumerator)中,并输出一个最终的物理执行计划。查询计划枚举在多个可行的查询计划中,根据预先定义的代价模型,选择出代价最低的一个。与查询改写阶段不同,在查询计划枚举中,规则可能产生更好的执行计划,也可能产生更差的执行计划,可以根据算子经过规则优化后的前后代价对比选出较优的那个,因此这也被称为基于代价的优化(Cost-based Optimizer,简称CBO)。

其核心组件有以下几个部分:

  • 统计信息(Statistics)
  • 基数估计(Cardinality Estimation)
  • 转化规则(Transform Rules)
  • 代价模型(Cost Model)
  • 计划空间搜索引擎(Plan Space Search Engine)

逻辑上,CBO的过程包括如下几个步骤:

  1. 搜索引擎利用转化规则,对输入的逻辑执行计划进行变换,构造出物理执行计划的搜索空间。
  2. 利用代价模型对搜索空间中的每一个执行计划进行代价估计,选出代价最低的物理执行计划。
  3. 代价估计的过程离不开基数估计,它利用各个表、列的统计信息,估算出各算子的输入行数、选择率等信息,提供给算子的代价模型,从而估算出查询计划的代价。
相关文章
|
供应链 大数据 物联网
案例分析:三一重工集团数字化转型
案例分析:三一重工集团数字化转型
876 2
|
编解码
如何让开源鸿蒙系统适配其它机型?
如何让开源鸿蒙系统适配其它机型?
647 0
|
11月前
|
数据可视化 数据挖掘 大数据
1.1 学习Python操作Excel的必要性
学习Python操作Excel在当今数据驱动的商业环境中至关重要。Python能处理大规模数据集,突破Excel行数限制;提供丰富的库实现复杂数据分析和自动化任务,显著提高效率。掌握这项技能不仅能提升个人能力,还能为企业带来价值,减少人为错误,提高决策效率。推荐从基础语法、Excel操作库开始学习,逐步进阶到数据可视化和自动化报表系统。通过实际项目巩固知识,关注新技术,为职业发展奠定坚实基础。
|
11月前
|
弹性计算 运维 网络安全
评测报告:阿里云操作系统智能助手OS Copilot体验
评测报告:阿里云操作系统智能助手OS Copilot体验
162 3
|
存储 缓存 监控
性能优化技术:提升系统效率的关键策略
【10月更文挑战第19天】性能优化技术:提升系统效率的关键策略
|
敏捷开发 数据可视化 项目管理
快速提升工作效率:五大桌面工作安排软件深度评测
随着工作节奏的加快,合理高效地安排工作已成为职场人士和团队成功的关键。本文评测了五款流行的桌面工作安排软件:板栗看板、Trello、Asana、Notion 和 Microsoft To Do,帮助用户快速找到提升工作效率的最佳工具。每款软件都有其独特优势,如板栗看板的迭代管理、Trello 的灵活看板、Asana 的项目视图、Notion 的高度定制化以及 Microsoft To Do 的简洁易用。选择合适的工具,将有效提升个人和团队的工作效率。
322 1
|
SQL 缓存 BI
在 SQL Server 中使用 SPACE 函数
【8月更文挑战第5天】
619 6
在 SQL Server 中使用 SPACE 函数
|
缓存 数据处理 UED
【Uniapp 专栏】Uniapp 开发中的疑难问题解决与进阶策略
【5月更文挑战第17天】在 Uniapp 开发中,解决页面间数据传递、网络请求异常、屏幕适配及性能优化等问题至关重要。利用路由参数传递复杂数据,如`uni.navigateTo`和`JSON.stringify`;处理网络请求异常时,添加错误处理机制增强健壮性;使用响应式设计和缓存策略优化布局和性能。针对组件问题,需排查依赖和配置,而平台差异则需定制化处理。通过不断学习和实践,提升开发技能,确保项目成功实施。
377 2
【Uniapp 专栏】Uniapp 开发中的疑难问题解决与进阶策略
|
存储 供应链 安全
区块链技术的发展与应用前景
在当今数字化时代,区块链技术正逐渐成为各行各业关注的焦点。本文将从区块链技术的基本原理、发展历程和应用前景三个方面展开探讨。首先介绍了区块链技术的内涵和基本原理,然后回顾了其发展历程和在不同领域的应用情况,最后展望了区块链技术未来的发展趋势和应用前景。
600 8
|
机器学习/深度学习 人工智能 搜索推荐
【AI 初识】解释推荐系统的概念
【5月更文挑战第3天】【AI 初识】解释推荐系统的概念