AI 助理
备案控制台
开发者社区 数据库 文章 正文

[MySQL优化案例]系列 -- RAND()优化

2022-06-19 407
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： [MySQL优化案例]系列 -- RAND()优化

众所周知，在MySQL中，如果直接 ORDER BY RAND() 的话，效率非常差，因为会多次执行。事实上，如果等值查询也是用 RAND() 的话也如此，我们先来看看下面这几个SQL的不同执行计划和执行耗时。

首先，看下建表DDL，这是一个没有显式自增主键的InnoDB表：

[yejr@imysql]> show create table t_innodb_random\G

*************************** 1. row***************************

Table:t_innodb_random

Create Table: CREATE TABLE `t_innodb_random` (

`id` int(10)unsigned NOT NULL,

`user` varchar(64)NOT NULL DEFAULT '',

KEY `idx_id` (`id`)

) ENGINE=InnoDB DEFAULT CHARSET=latin1

往这个表里灌入一些测试数据，至少10万以上， id 字段也是乱序的。

[yejr@imysql]> select count(*) from t_innodb_random\G

*************************** 1. row***************************

count(*): 393216

1、常量等值检索：

[yejr@imysql]> explain select id fromt_innodb_random where id = 13412\G

*************************** 1. row***************************

id: 1

select_type: SIMPLE

table:t_innodb_random

type: ref

possible_keys: idx_id

key: idx_id

key_len: 4

ref: const

rows: 1

Extra: Using index

[yejr@imysql]> select id from t_innodb_random where id =13412;

1 row in set (0.00 sec)

可以看到执行计划很不错，是常量等值查询，速度非常快。

2、使用RAND()函数乘以常量，求得随机数后检索：

[yejr@imysql]> explain select id from t_innodb_randomwhere id = round(rand()*13241324)\G

*************************** 1. row***************************

id: 1

select_type: SIMPLE

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using where; Using index

[yejr@imysql]> select id from t_innodb_randomwhere id = round(rand()*13241324)\G

Empty set (0.26 sec)

可以看到执行计划很糟糕，虽然是只扫描索引，但是做了全索引扫描，效率非常差。因为WHERE条件中包含了RAND()，使得MySQL把它当做变量来处理，无法用常量等值的方式查询，效率很低。

我们把常量改成取t_innodb_random表的最大id值，再乘以RAND()求得随机数后检索看看什么情况：

[yejr@imysql]> explain select id from t_innodb_randomwhere id = round(rand()*(select max(id) from t_innodb_random))\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using where; Using index

*************************** 2. row***************************

id: 2

select_type:SUBQUERY

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Selecttables optimized away

[yejr@imysql]> select id from t_innodb_randomwhere id = round(rand()*(select max(id) from t_innodb_random))\G

Empty set (0.27 sec)

可以看到，执行计划依然是全索引扫描，执行耗时也基本相当。

3、改造成普通子查询模式 ，这里有两次子查询

[yejr@imysql]> explain select id fromt_innodb_random where id = (select round(rand()*(select max(id) fromt_innodb_random)) as nid)\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using where; Using index

*************************** 2. row***************************

id: 3

select_type:SUBQUERY

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Selecttables optimized away

[yejr@imysql]> select id from t_innodb_randomwhere id = (select round(rand()*(select max(id) from t_innodb_random)) as nid)\G

Empty set (0.27 sec)

可以看到，执行计划也不好，执行耗时较慢。

4、改造成JOIN关联查询，不过最大值还是用常量表示

[yejr@imysql]> explain select id fromt_innodb_random t1 join (select round(rand()*13241324) as id2) as t2 wheret1.id = t2.id2\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:<derived2>

type: system

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: 1

Extra:

*************************** 2. row***************************

id: 1

select_type:PRIMARY

table: t1

type: ref

possible_keys: idx_id

key: idx_id

key_len: 4

ref: const

rows: 1

Extra: Using where; Using index

*************************** 3. row***************************

id: 2

select_type:DERIVED

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Notables used

[yejr@imysql]> select id from t_innodb_randomt1 join (select round(rand()*13241324) as id2) as t2 where t1.id =t2.id2\G

Empty set (0.00 sec)

这时候执行计划就非常完美了，和最开始的常量等值查询是一样的了，执行耗时也非常之快。

这种方法虽然很好，但是有可能查询不到记录，改造范围查找，但结果LIMIT 1就可以了：

[yejr@imysql]> explain select id fromt_innodb_random where id > (select round(rand()*(select max(id) fromt_innodb_random)) as nid) limit 1\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using where; Using index

*************************** 2. row***************************

id: 3

select_type:SUBQUERY

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Selecttables optimized away

[yejr@imysql]> select id from t_innodb_randomwhere id > (select round(rand()*(select max(id) from t_innodb_random)) asnid) limit 1\G

*************************** 1. row***************************

id: 1301

1 row in set (0.00 sec)

可以看到，虽然执行计划也是全索引扫描，但是因为有了LIMIT 1，只需要找到一条记录，即可终止扫描，所以效率还是很快的。

小结：

从数据库中随机取一条记录时，可以把RAND()生成随机数放在JOIN子查询中以提高效率。

5、再来看看用ORDRRBY RAND()方式一次取得多个随机值的方式：

[yejr@imysql]> explain select id from t_innodb_randomorder by rand() limit 1000\G

*************************** 1. row***************************

id: 1

select_type: SIMPLE

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using index; Using temporary; Using filesort

[yejr@imysql]> select id from t_innodb_randomorder by rand() limit 1000;

1000 rows in set (0.41 sec)

全索引扫描，生成排序临时表，太差太慢了。

6、把随机数放在子查询里看看：

[yejr@imysql]> explain select id fromt_innodb_random where id > (select rand() * (select max(id) fromt_innodb_random) as nid) limit 1000\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:t_innodb_random

type: index

possible_keys: NULL

key: idx_id

key_len: 4

ref: NULL

rows: 393345

Extra: Using where; Using index

*************************** 2. row ***************************

id: 3

select_type:SUBQUERY

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Selecttables optimized away

[yejr@imysql]> select id from t_innodb_randomwhere id > (select rand() * (select max(id) from t_innodb_random) as nid)limit 1000\G

1000 rows in set (0.04 sec)

嗯，提速了不少，这个看起来还不赖：）

7、仿照上面的方法，改成JOIN和随机数子查询关联

[yejr@imysql]> explain select id fromt_innodb_random t1 join (select rand() * (select max(id) from t_innodb_random)as nid) t2 on t1.id > t2.nid limit 1000\G

*************************** 1. row***************************

id: 1

select_type:PRIMARY

table:<derived2>

type: system

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: 1

Extra:

*************************** 2. row***************************

id: 1

select_type:PRIMARY

table: t1

type: range

possible_keys: idx_id

key: idx_id

key_len: 4

ref: NULL

rows: 196672

Extra: Using where; Using index

*************************** 3. row***************************

id: 2

select_type:DERIVED

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Notables used

*************************** 4. row***************************

id: 3

select_type:SUBQUERY

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Selecttables optimized away

[yejr@imysql]> select id from t_innodb_randomt1 join (select rand() * (select max(id) from t_innodb_random) as nid) t2 ont1.id > t2.nid limit 1000\G

1000 rows in set (0.00 sec)

可以看到，全索引检索，发现符合记录的条件后，直接取得1000行，这个方法是最快的。

综上，想从MySQL数据库中随机取一条或者N条记录时，最好把RAND()生成随机数放在JOIN子查询中以提高效率。

上面说了那么多的废话，最后简单说下，就是把下面这个SQL：

SELECT id FROM table ORDER BY RAND() LIMIT n;

改造成下面这个：

SELECT id FROM table t1, JOIN (SELECT RAND() * (SELECTMAX(id) FROM table) AS nid) t2 ON t1.id > t2.nid LIMIT n;

就可以享受在SQL中直接取得随机数了，不用再在程序中构造一串随机数去检索了。




            </div>
文章标签：
云数据库 RDS MySQL 版
SQL
关系型数据库
索引
MySQL
数据库
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发，帮助IT从业者们通过“阿里云Web应用上云解决方案”，了解一个企业级Web应用上云的常见架构，了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品：云数据库RDS MySQL 版 阿里云关系型数据库RDS（Relational Database Service）是一种稳定可靠、可弹性伸缩的在线数据库服务，提供容灾、备份、恢复、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
xaubllxwtvaqiu
目录
相关文章
拂晓V
|
存储 设计模式 缓存
通用点赞设计思路
点赞作为一个高频率的操作，如果每次操作都读写数据库会增加数据库的压力，所以采用缓存+定时任务来实现。点赞数据是在redis中缓存半小时，同时定时任务是每隔5分钟执行一次，做持久化存储，这里的缓存时间和任务执行时间可根据项目情况而定。
拂晓V
2939 2
李子捌
|
存储 NoSQL 算法
Redis之zset实现滑动窗口限流
Redis之zset实现滑动窗口限流
李子捌
2304 0
Redis之zset实现滑动窗口限流
yuanzhengme
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么？
数据架构 ODPS 是什么？
yuanzhengme
3257 7
光明顶阳顶天
|
缓存 安全 数据安全/隐私保护
如何根据请求场景选择 GET 或 POST 请求方法？
【10月更文挑战第27天】根据不同的请求场景，综合考虑数据传输目的、安全性、数据量大小、幂等性要求以及缓存需求等因素，合理地选择GET或POST请求方法，能够更好地实现客户端与服务器之间的数据交互，提高系统的性能和安全性。
光明顶阳顶天
482 64
FeelTouchLabs
|
人工智能 分布式计算 物联网
星链全解1
这篇文章全面介绍了星链计划，包括其基本信息、对天文观测的干扰、在轨碰撞风险、寿命末期的离轨流程、卫星升级、工作原理、服务可用地区、应急服务、军事应用以及如何使用星链服务，并讨论了星链卫星的潜在环境影响和对天基C4KISR作战体系的贡献。
FeelTouchLabs
1708 1
星链全解1
BetterBench
|
机器学习/深度学习 存储 算法
【博士每天一篇文献-综述】Continual lifelong learning with neural networks_ A review
这篇综述论文深入探讨了神经网络在终身学习领域的研究进展，包括生物学启发的概念、终身学习方法的分类与评估，以及未来研究方向，旨在解决神经网络在学习新任务时如何避免灾难性遗忘的问题。
BetterBench
322 2
杭州小哥哥
|
Java 数据库连接 mybatis
Mybatis openSession.commit()手动提交数据和openSession.commit(true)自动动提交数据
Mybatis openSession.commit()手动提交数据和openSession.commit(true)自动动提交数据
杭州小哥哥
191 9
wljslmz
|
数据中心 网络架构
网络中不同类型网线的特点与应用
【8月更文挑战第24天】
wljslmz
1269 0
JAVA开发hx
|
存储 数据库 索引
一般会在什么样字段上添加什么样的索引
在数据库中，索引是一种用于加快数据检索速度的数据结构。通过在特定的字段上创建索引，可以大幅度提高查询效率。然而，不是所有的字段都适合创建索引，因为索引的创建和维护也会带来额外的开销。在选择字段创建索引时，需要综合考虑数据的查询频率、数据的更新频率以及索引的存储和性能开销等因素。下面将介绍一些常见的字段类型和索引的选择策略。
JAVA开发hx
479 1
kouver
|
存储 对象存储 数据安全/隐私保护
Docker部署MinIO对象存储服务
Docker部署MinIO对象存储服务
kouver
742 0