索引的威力--记一次MySQL存储过程优化

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 Redis 版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: 在MySQL存储过程中,一个`INSERT INTO SELECT`语句起初执行超过130秒,优化后,执行时间降低到1秒内,实现了100倍的性能提升。问题在于`NOT IN`子查询导致的慢查询,最终通过创建单列索引获得了最佳效果。文章还介绍了索引创建的基本语法,并讨论了单列索引与组合索引的优缺点。作者强调,随着数据量增加,索引对于查询性能的重要性,计划未来采用读写分离来进一步优化处理大量插入和查询的场景。

一、背景:

最近接手一个老项目,在MySQL存储过程中采用【insert.... select ....】的语句,执行时发现超过130s(之后停止存储过程,没有继续执行),实际是从30多万条数据中查询后,真正要插入数据只有1800多条。我在创建了多个单列索引后,同样的语句在1s内(<0.5s)就执行完成了,速度提升了100倍,体会到了数据库索引带来的巨大威力。


这个存储过程去掉具体的业务后,出现问题的语句是这么写的:

INSERT INTO da_tb_market_index_commodity_detail(
`third_level_code`, `data_type`,
`data_date`, 
`commodity_images`,
`commodity_name`
)SELECT 
`third_level_code`, 
`data_type`,
`data_date`, 
`commodity_images`,
`commodity_name`
from da_tb_market_index_commodity_detail_temp 
where third_level_code=category_code and data_date=data_time and data_type=type_str and price_section=section
AND (commodity_ID, data_date,data_type,third_level_code,price_section) NOT IN 
(SELECT commodity_ID, data_date,data_type,third_level_code,price_section FROM da_tb_market_index_commodity_detail);

二、解决问题过程:

因为这个存储过程执行时间超过30s,不太正常,于是我在navicat中,输入 show processlist; 命令查看正在执行的任务,发现这个存储过程还在执行insert语句。因为时间太长,担心表锁死,所以我通过查看Info列中找到任务对应的Id,执行kill命令 ,停止正在执行的存储过程。

分析这段代码,首先是not in的查询条件执行会比较慢,可以使用left join来优化,这会提供一些性能,当时因为有时间要求,没有采取这个优化策略。另一个是在数据库表da_tb_market_index_commodity_detail中增加索引,来提高查询的性能,我首先建了组合索引 (commodity_ID, data_date,data_type,third_level_code,price_section)Index,效果有比较大的提升,之后我创建了多个单列索引,发现速度更快,在1s内完成了存储过程,大大超出我的想象。索引创建如下图:

image.png



三、涉及知识点:

1、索引的创建:建表时和建表后都可以创建索引, 注:索引方法默认使用B+TREE。以下是创建表时的存储过程:

CREATE TABLE 表名(
字段名 数据类型 [完整性约束条件], ……,
[UNIQUE | FULLTEXT | SPATIAL] INDEX | KEY
[索引名](字段名1 [(长度)] [ASC | DESC]) [USING 索引方法]);

说明:
UNIQUE:可选。表示索引为唯一性索引。
FULLTEXT:可选。表示索引为全文索引。
SPATIAL:可选。表示索引为空间索引。
INDEX和KEY:用于指定字段为索引,两者选择其中之一就可以了,作用是    一样的。
索引名:可选。给创建的索引取一个新名称。
字段名1:指定索引对应的字段的名称,该字段必须是前面定义好的字段。
长度:可选。指索引的长度,必须是字符串类型才可以使用。
ASC:可选。表示升序排列。
DESC:可选。表示降序排列。

2、单列索引和组合索引的区别联系

对于只涉及单列的查询,单列索引可以快速定位到符合条件的记录,提高查询效率。相对于组合索引,单列索引的维护成本较低,因为每次数据更新时只需要更新一个索引。

组合索引可以同时考虑多个列的组合,对于涉及这些列的查询,可以更有效地定位到符合条件的记录,提高查询效率。组合索引的大小会随着索引列的增加而增加,占用更多的存储空间,特别是当索引包含大量的列时,可能会导致索引过大,影响性能。更新组合索引列的值时,需要同时更新索引的多个列,可能会增加更新的代价和时间。

本次性能优化,既有单列查询,也有组合列查询,综合比较后,采用多个单列索引性能更好。


四、总结

索引是一个排序的列表,在这个列表中存储着索引的值和包含这个值的数据所在行的物理地址,可以大大加快查询的速度,使用索引后可以不用扫描全表来定位某行的数据,而是先通过索引表找到该行数据对应的物理地址然后访问相应的数据。

数据库表中数据少的时候,加不加索引,对于查询性能没有影响。一旦数据库数据较大,比如本例中表的数据超过30多万,对于比较复杂的一些查询性能是有明显的优势的。

我现在做的电商系统,每天数据增长很快,后续如果插入数据影响性能(比如插入数据时,用户在界面上查询数据响应比较慢),我规划把目前的单库改成读写分离模式,把插入数据和查询数据分开,增加更好的用户体验。

技术不断发展,希望和大家一起进步,加油!




相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
7天前
|
存储 自然语言处理 关系型数据库
MySQL高级篇——索引的创建与设计原则
索引的分类与使用、MySQL8.0索引新特性、适合创建索引的情况、不适合创建索引的情况
MySQL高级篇——索引的创建与设计原则
|
7天前
|
存储 SQL 关系型数据库
MySQL高级篇——索引失效的11种情况
索引优化思路、要尽量满足全值匹配、最佳左前缀法则、主键插入顺序尽量自增、计算、函数导致索引失效、类型转换(手动或自动)导致索引失效、范围条件右边的列索引失效、不等于符号导致索引失效、is not null、not like无法使用索引、左模糊查询导致索引失效、“OR”前后存在非索引列,导致索引失效、不同字符集导致索引失败,建议utf8mb4
MySQL高级篇——索引失效的11种情况
|
16天前
|
存储 关系型数据库 MySQL
MySQL基础:索引
MySQL中的索引是一种数据结构,能大幅提升数据库查询效率和减少I/O成本,类似于书的目录帮助快速定位内容。其优势包括提高检索效率和降低排序成本,但会占用空间并影响更新表的效率。鉴于查询远多于更新,索引仍被推荐使用。索引分为多种类型,如B+树和哈希索引,其中B+树因其较低的高度和稳定的查询开销成为常用选择。创建和删除索引需谨慎,以免影响性能。
40 4
MySQL基础:索引
|
7天前
|
存储 SQL 关系型数据库
【MySQL调优】如何进行MySQL调优?从参数、数据建模、索引、SQL语句等方向,三万字详细解读MySQL的性能优化方案(2024版)
MySQL调优主要分为三个步骤:监控报警、排查慢SQL、MySQL调优。 排查慢SQL:开启慢查询日志 、找出最慢的几条SQL、分析查询计划 。 MySQL调优: 基础优化:缓存优化、硬件优化、参数优化、定期清理垃圾、使用合适的存储引擎、读写分离、分库分表; 表设计优化:数据类型优化、冷热数据分表等。 索引优化:考虑索引失效的11个场景、遵循索引设计原则、连接查询优化、排序优化、深分页查询优化、覆盖索引、索引下推、用普通索引等。 SQL优化。
【MySQL调优】如何进行MySQL调优?从参数、数据建模、索引、SQL语句等方向,三万字详细解读MySQL的性能优化方案(2024版)
|
7天前
|
SQL 缓存 关系型数据库
MySQL高级篇——关联查询和子查询优化
左外连接:优先右表创建索引,连接字段类型要一致、内连接:驱动表由数据量和索引决定、 join语句原理、子查询优化:拆开查询或优化成连接查询
MySQL高级篇——关联查询和子查询优化
|
7天前
|
存储 缓存 关系型数据库
MySQL高级篇——存储引擎和索引
MyISAM:不支持外键和事务,表锁不适合高并发,只缓存索引,内存要求低,查询快MyISAM提供了大量的特性,包括全文索引、压缩、空间函数(GIS)等,但MyISAM不支持事务、行级锁、外键,有一个毫无疑问的缺陷就是崩溃后无法安全恢复。5.5之前默认的存储引擎优势是访问的速度快,对事务完整性没有要求或者以SELECT、INSERT为主的应用针对数据统计有额外的常数存储。故而 count(*) 的查询效率很高表名.frm 存储表结构;表名.MYD 存储数据 (MYData);
MySQL高级篇——存储引擎和索引
|
7天前
|
算法 关系型数据库 MySQL
MySQL高级篇——排序、分组、分页优化
排序优化建议、案例验证、范围查询时索引字段选择、filesort调优、双路排序和单路排序、分组优化、带排序的深分页优化
MySQL高级篇——排序、分组、分页优化
|
7天前
|
存储 关系型数据库 MySQL
MySQL高级篇——覆盖索引、前缀索引、索引下推、SQL优化、主键设计
覆盖索引、前缀索引、索引下推、SQL优化、EXISTS 和 IN 的区分、建议COUNT(*)或COUNT(1)、建议SELECT(字段)而不是SELECT(*)、LIMIT 1 对优化的影响、多使用COMMIT、主键设计、自增主键的缺点、淘宝订单号的主键设计、MySQL 8.0改造UUID为有序
MySQL高级篇——覆盖索引、前缀索引、索引下推、SQL优化、主键设计
|
21天前
|
SQL 关系型数据库 MySQL
SQL Server、MySQL、PostgreSQL:主流数据库SQL语法异同比较——深入探讨数据类型、分页查询、表创建与数据插入、函数和索引等关键语法差异,为跨数据库开发提供实用指导
【8月更文挑战第31天】SQL Server、MySQL和PostgreSQL是当今最流行的关系型数据库管理系统,均使用SQL作为查询语言,但在语法和功能实现上存在差异。本文将比较它们在数据类型、分页查询、创建和插入数据以及函数和索引等方面的异同,帮助开发者更好地理解和使用这些数据库。尽管它们共用SQL语言,但每个系统都有独特的语法规则,了解这些差异有助于提升开发效率和项目成功率。
92 0
|
22天前
|
SQL 关系型数据库 MySQL
深入探索MySQL索引策略
本文旨在深入探讨MySQL(8.0.26)数据库中索引的设计与优化方法。

相关产品

  • 云数据库 RDS MySQL 版