基于 MySQL + Tablestore 分层存储架构的大规模订单系统实践-SQL 查询和分析

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
表格存储 Tablestore,50G 2个月
简介: 前言前面我们介绍了基于 MySQL + Tablestore 分层架构的订单系统。订单数据储存进入 Tablestore 后,用户可以使用 SDK 中的 API 访问数据,也可以继续使用 SQL 访问 Tablestore 中的数据。Tablestore 提供了多种 SQL 的接入方式,客户可以通过 DLA 访问 Tablestore,也可以利用 Tablestore 自身对 SQL 的支持能力,

前言

前面我们介绍了基于 MySQL + Tablestore 分层架构的订单系统。订单数据储存进入 Tablestore 后,用户可以使用 SDK 中的 API 访问数据,也可以继续使用 SQL 访问 Tablestore 中的数据。Tablestore 提供了多种 SQL 的接入方式,客户可以通过 DLA 访问 Tablestore,也可以利用 Tablestore 自身对 SQL 的支持能力,直接使用 SQL 访问 Tablestore。

下面本文将展示,如何直接利用 SQL 直接读取 Tablestore 中的数据。

控制台使用SQL

添加自定义列

目前使用 SQL 需要将 Tablestore 中的数据列定义为预定义列。

进入表格存储控制台,点击进入实例。

点击进入对应的表 order_contract。

点击添加预定义列。将订单表字段均设置为预定义列,设置结果如图。

创建映射表

在控制台创建 order_contract 的映射表。在实例管理页面,点击 SQL 查询。可以看到 SQL 输入框。点击加号,选择表 order_contract。点击生成SQL

调整 SQL 的字段类型,在输入框输入以下建表 SQL。若有报错,可以尝试将 SQL 缩进至一行中,然后再执行。

create table order_contract (
oId VARCHAR(1024),
create_time VARCHAR(1024),
total_price DOUBLE,
p_brand VARCHAR(1024),
p_price DOUBLE,
pay_time BIGINT(20),
has_paid BIGINT(20),
s_id VARCHAR(1024),
p_name VARCHAR(1024),
c_id VARCHAR(1024),
c_name VARCHAR(1024),
s_name VARCHAR(1024),
p_count BIGINT(20),
p_id VARCHAR(1024),
primary key(oId));

点击刷新按钮,可以看到映射表已经建好。

页面查询

根据用户id查询订单

在SQL 输入框中输入以下 SQL。

select * from order_contract where c_id = "user1370786" limit 100

可以看到查询结果。

统计过去一段时间各店铺成交额

在SQL 输入框中输入以下 SQL。

select count(*) ,s_id from order_contract where pay_time > 1628784000000 group by s_id order by count(*) desc

可以看到查询结果。

性能比较

在 Tablestore 中压入 1亿 条订单记录,根据不同需求场景进行性能测试。

订单搜索、数据检索

需求分析

  • 根据订单id读取订单详情。
  • 搜索某店铺过去一段时间的订单例表。
  • 获取分页获取用户订单列表。
  • 搜索某用户购买过的包含某关键字的商品。

这一类需求为订单系统中最常见的数据检索需求。对于基于买家 id、订单 id、卖家 id 的数据检索,MySQL可以通过建立索引来解决,而对于多条件组合的查询,MySQL一般很难处理,需要通过 Elasticsearch 提供数据检索能力来对外提供搜索支持。

性能对比

下表中列举了几个常见场景下的数据检索需求,以及对应的 Tablestore SQL、MySQL的性能比较。可以看到 Tablestore SQL 在基于订单id、买家id、卖家id上的搜索性能可以与 MySQL 相媲美。而在一些复杂条件的搜索场景下,Tablestore SQL 基于多元索引,提供了比 MySQL 更加强大的检索能力,这一点是单独的 MySQL 架构无法提供的。

需要说明的是,MySQL 索引需要遵守最左匹配原则,一个索引可能只能应对一个或几个需求。因此在复杂组合检索条件下,可能需要构建很多索引表才能够满足检索需求,这不仅会占用很多磁盘空间,MySQL 的维护也会变得复杂。而 Tablestore SQL 底层基于多元索引,一张索引可以应对所有数据检索需求。

需求

Tablestore SQL / 执行时间

MySQL / 执行时间

说明

根据订单id获取订单详情

select * from order_contract where oId = "1623228187378_user978315"

执行时间:小于50ms

select * from order_contract where oId = "1623228187378_user978315"

执行时间:小于50ms

统计某店铺在 2021 年 6 月 30 日零点以来金额在 2000 元以上的订单,按订单金额倒序取前 20

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract 

where s_id = 'store995' and pay_time > 1624982400000000

and total_price > 2000 ORDER BY total_price desc limit 20

执行时间: 亚秒至秒级

select oId,c_id, c_name,c_name, p_brand,p_name, total_price, s_id from order_contract where s_id = 'store995' and pay_time > '2021-06-30 00:00:00'

and total_price > 2000 ORDER BY total_price desc limit 20

执行时间在亚秒级

符合筛选条件的记录数1278。MySQL 建有 s_id,pay_time,total_price 联合索引。

统计某用户 2021 年 6 月 30 日零点以来金额在 2000 元以上的订单,按支付时间倒序取前 20

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract where c_id = 'user2908110' and 

pay_time >= 1624982400000000

and total_price > 2000

order by pay_time desc limit 20

执行时间: 小于50ms

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract where c_id = 'user2908110' and pay_time >= '2021-06-30 00:00:00'

and total_price > 2000

order by pay_time desc limit 20

执行时间小于 50ms

MySQL 在字段 c_id 上建立索引。

user2908110客户共有 14 张订单。

搜索2021年6月30日零点以来成交额在9995元以上,且商品品牌中包含特定关键字的订单,按商品单价倒序排列取前 100。

MySQL 中建立有p_price,total_price,pay_time的联合索引。

select oId,c_id,s_id,total_price,c_name,p_brand,pay_time,p_price from order_contract 

where total_price > 9995 and pay_time > 1624982400000000

and p_brand like "%品牌22%"

order by p_price desc limit 100

执行时间约 100 ms

select oId,c_id,s_id,total_price,c_name,p_brand,pay_time,p_price from order_contract 

where total_price > 9995 and pay_time > '2021-06-30 00:00:00'

and p_brand like "%品牌22%"

order by p_price desc limit 100

执行时间:分钟级

MySQL 在字段 p_price, total_price, pay_time 建有联合索引。

符合条件的记录数约16条

报表分析、运营推广

需求分析

  • 统计过去一个月各店铺成交额并排序;
  • 统计过去一个月各店铺成交的最大单笔订单金额;
  • 统计当天成交订单数最大的 100 位客户

此类需求在订单系统的报表工作、数据分析、运营推广当中会非常常见,主要考验数据库对聚合操作的支持能力。SQL 解析结合 Tablestore 的多元索引,在此类场景下的性能远高于 MySQL。

性能对比

表格中列举了三种依赖聚合操作的场景,对于每种场景,给出了各 SQL 语句以及运行时间。Tablestore SQL 在三种场景执行时间都在亚秒级,远远好于 MySQL 性能。三种场景下,MySQL 中都建立了适合此场景的联合索引,在有索引并无需回表的情况下,统计仍需要几十秒到几分钟的时间;而需要回表时,MySQL 性能会极速衰退。MySQL 索引需要遵守最左匹配原则,在现实环境当中,很难像这里的三个场景都建立了恰当的索引,甚至并不会建立类似于 pay_time, c_id, total_price 这样的联合索引,因此,现实场景大数据下 MySQL 对此类需求的支持能力更加糟糕。多元索引不需遵守最左匹配原则,可以以一份索引覆盖所有列,因此也不存在回表问题。

可以看到,在聚合场景下,Tablestore SQL 性能远高于 MySQL。

需求

Tablestore SQL / 执行时间

MySQL / 执行时间

说明

统计2021年6月30日零点以来,各店铺成交订单数量,订单数量降序排序。

select s_id, count(*) as c from order_contract where pay_time >= 1624982400000000  group by s_id order by c desc

执行时间: 亚秒级

select s_id, count(*) as c from order_contract where pay_time >= '2021-06-30 00:00:00'group by s_id order by c desc

执行时间约 25s

MySQL 建有 pay_time、s_id联合索引,无需回表。时间范围内记录数约1200w。

统计2021年6月30日零点以来,各店铺成交订单数量、总成交额、平均成交额、最大订单金额,按成交额降序排序。

select s_id, count(*),sum( total_price) as c, avg( total_price),max( total_price) 

from order_contract where pay_time >= 1624982400000000  group by s_id order by c desc

执行时间 :亚秒级

select s_id, count(*),sum( total_price) as c, avg( total_price),max( total_price) from order_contract where pay_time >= '2021-06-30 00:00:00'  group by s_id order by c desc

执行时间在一个小时以上

MySQL 建有 pay_time、s_id联合索引,需要回表。时间范围内记录数约1200w。

统计2021年6月30日零点以来,下单金额最高的100个客户。

SELECT c_id ,sum(total_price) as a FROM order_contract where pay_time >= 1624982400000000

group by c_id 

order by a desc limit 100

执行时间:亚秒级

SELECT c_id ,sum(total_price) as a FROM order_contract where pay_time >= '2021-06-30 00:00:00'

group by c_id 

order by a desc limit 100

执行时间约2分半

MySQL 建有pay_time, c_id, total_price 的联合索引,无需回表。时间范围内记录数约1200w。

总结

Tablestore 支持 SQL 查询。这使得用户开发工作、程序迁移工作,变得更加简单。SQL 解析,结合 Tablestore 的多元索引,为用户提供了更加强大的 SQL 查询、检索能力,其数据检索能力,远强于 MySQL。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
9天前
|
存储 SQL 关系型数据库
MySQL进阶突击系列(03) MySQL架构原理solo九魂17环连问 | 给大厂面试官的一封信
本文介绍了MySQL架构原理、存储引擎和索引的相关知识点,涵盖查询和更新SQL的执行过程、MySQL各组件的作用、存储引擎的类型及特性、索引的建立和使用原则,以及二叉树、平衡二叉树和B树的区别。通过这些内容,帮助读者深入了解MySQL的工作机制,提高数据库管理和优化能力。
|
1月前
|
存储 SQL 关系型数据库
Mysql高可用架构方案
本文阐述了Mysql高可用架构方案,介绍了 主从模式,MHA模式,MMM模式,MGR模式 方案的实现方式,没有哪个方案是完美的,开发人员在选择何种方案应用到项目中也没有标准答案,合适的才是最好的。
162 3
Mysql高可用架构方案
|
21天前
|
SQL 存储 人工智能
Vanna:开源 AI 检索生成框架,自动生成精确的 SQL 查询
Vanna 是一个开源的 Python RAG(Retrieval-Augmented Generation)框架,能够基于大型语言模型(LLMs)为数据库生成精确的 SQL 查询。Vanna 支持多种 LLMs、向量数据库和 SQL 数据库,提供高准确性查询,同时确保数据库内容安全私密,不外泄。
91 7
Vanna:开源 AI 检索生成框架,自动生成精确的 SQL 查询
|
1月前
|
SQL 存储 缓存
【赵渝强老师】MySQL的体系架构
本文介绍了MySQL的体系架构,包括Server层的7个主要组件(Connectors、Connection Pool、Management Service & Utilities、SQL Interface、Parser、Optimizer、Query Caches & Buffers)及其作用,以及存储引擎层的支持情况,重点介绍了InnoDB存储引擎。文中还提供了相关图片和视频讲解。
【赵渝强老师】MySQL的体系架构
|
22天前
|
SQL 存储 关系型数据库
MySQL进阶突击系列(01)一条简单SQL搞懂MySQL架构原理 | 含实用命令参数集
本文从MySQL的架构原理出发,详细介绍其SQL查询的全过程,涵盖客户端发起SQL查询、服务端SQL接口、解析器、优化器、存储引擎及日志数据等内容。同时提供了MySQL常用的管理命令参数集,帮助读者深入了解MySQL的技术细节和优化方法。
|
28天前
|
SQL Java
使用java在未知表字段情况下通过sql查询信息
使用java在未知表字段情况下通过sql查询信息
36 8
|
1月前
|
SQL 安全 PHP
PHP开发中防止SQL注入的方法,包括使用参数化查询、对用户输入进行过滤和验证、使用安全的框架和库等,旨在帮助开发者有效应对SQL注入这一常见安全威胁,保障应用安全
本文深入探讨了PHP开发中防止SQL注入的方法,包括使用参数化查询、对用户输入进行过滤和验证、使用安全的框架和库等,旨在帮助开发者有效应对SQL注入这一常见安全威胁,保障应用安全。
59 4
|
1月前
|
SQL 监控 关系型数据库
SQL语句当前及历史信息查询-performance schema的使用
本文介绍了如何使用MySQL的Performance Schema来获取SQL语句的当前和历史执行信息。Performance Schema默认在MySQL 8.0中启用,可以通过查询相关表来获取详细的SQL执行信息,包括当前执行的SQL、历史执行记录和统计汇总信息,从而快速定位和解决性能瓶颈。
|
1月前
|
SQL 存储 缓存
如何优化SQL查询性能?
【10月更文挑战第28天】如何优化SQL查询性能?
148 10
|
1月前
|
SQL 关系型数据库 MySQL