《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

本文涉及的产品
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云原生数据仓库AnalyticDB MySQL版,基础版 8ACU 100GB 1个月
全局流量管理 GTM,标准版 1个月
简介: 《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

1. 弹性能力:资源池

 

AnalyticDB MySQL版的弹性模式集群版(新版)采取了存储计算分离架构,支持对计算资源进行弹性扩缩。

资源池功能可以对计算资源进行弹性划分,不同资源池之间的计算资源在物理上完全隔离。

通过数据库账号绑定到不同的资源池,SQL查询根据绑定关系路由至对应的资源池进行执行,从而满足实例内部多租户、混合负载的需求。

 

image.png

 

1) 资源池分类

 

a) 默认资源池

 

默认资源池USER_DEFAULT是实例创建时便存在的,不可被删除。

未被分配到用户自定义资源池的计算资源均归属于默认资源池,计算资源不可被直接调整。

未被绑定的AnalyticDB MySQL数据库账号均与默认资源池绑定。

 

b) 自定义资源池

 

用户自定义创建的资源池,可以进行资源池的计算资源、查询执行模式、AnalyticDB MySQL账号与资源池的绑定关系进行修改。

通过资源池管理或CREATE RESOURCE GROUP创建。

 

2) 查询类型

 

集群版新版支持将一个集群资源划分为多个资源池,不同用户绑定到不同的资源池,通过资源池隔离实现计算任务的优先级调度,保障核心业务不受复杂计算和突发状况影响,同时将不同的查询分类,合理分配资源使集群性能达到最大化。

 

在AnalyticDB MySQL数据库中,查询类型有三种:

 

Default_Type:默认查询类型。

Batch:Batch查询类型,适用于数据量较大的复杂查询。

Interactive:Interactive查询类型,适用于延迟要求高的实时分析查询。

 

查询示例

 

问题描述:用户A、B日常进行一些简单查询,用户C会进行数据量较大的复杂查询分析。

解决方案:将用户A、B绑定查询类型为Interactive的资源池source_a,将用户C绑定查询类型为Batch的资源池source_b,用户C在进行大型计算查询时,用户A和用户B进行简单查询的速度不受影响。

 

3) 资源组/资源池(E系列支持)

 

通过CREATE RESOURCE GROUP可以创建资源组,资源组创建DDL样例:

 

CREATE RESOURCE GROUP group_name

[QUERY_TYPE = {interactive, batch}]

[NODE NUM=N]

 

使用场景

实例内部多租户/多部门/多业务需要资源隔离。

 混合负载隔离,避免相互影响。

 

特点

 不同资源组之间的计算资源支持资源在物理上完全隔离。

 支持资源组级别计算资源分时弹性。

 支持存储层流量比例隔离。

 支持配置资源组默认执行模型(interactive or batch)。

 

游戏行业某客户资源组案例

 默认资源组:用于数据在线分析决策,如新用户充值行为、广告投放效果分析、玩家游戏行为分析等。

ETL资源组:用于ETL计算,如数据加工/清洗、维度关联扩展、指标统计聚合等。

 

image.png

 

2. 弹性能力:EIU

 

集群版新版集群采用了存储分离架构,集群的存储资源与计算资源相互独立。弹性IO资源Elastic IO Unit,简称EIU是衡量集群存储性能的元单位,可用于单独扩容存储资源。

 

基于EIU的存储性能指标如下:

 

image.png

 

需要单独扩容弹性IO资源EIU场景:

 

数据导入:购买的计算资源较小,而大量的数据写入导致存储节点I/O先达到瓶颈。

高并发点查:购买的计算资源很小,而高并发点查导致存储CPU成为瓶颈。

 

3. 弹性能力:分时弹性

 

AnalyticDB MySQL数据库支持按小时设置计算资源弹性扩容规则,解决计算资源峰谷需求问题,降低计算资源成本。

 

白天查询业务高峰:白天工作高峰期,准时弹出计算资源,让业务查询更快,提高应用体验。

晚上ETL计算高峰:晚上ETL高峰期,准时弹出计算资源,让ETL计算任务稳定运行,低峰期准时释放,降低资源成本。

 

如下图,在上午8:30至11:30为业务高峰期,此时的负载为70%、QPS为400、响应时间为440ms,通过分时弹性,在业务高峰期将计算资源进行扩容,由原来的64core扩容至256core,来保障业务高峰期的平稳运行;在业务低峰期准时释放资源降低资源使用成本。

 

image.png

 

4. 操作演示-实现AnalyticDB MySQL版

 

(详见第一章实验部分)

相关实践学习
AnalyticDB MySQL海量数据秒级分析体验
快速上手AnalyticDB MySQL,玩转SQL开发等功能!本教程介绍如何在AnalyticDB MySQL中,一键加载内置数据集,并基于自动生成的查询脚本,运行复杂查询语句,秒级生成查询结果。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
5月前
|
存储 关系型数据库 MySQL
MySQL——数据库备份上传到阿里云OSS存储
MySQL——数据库备份上传到阿里云OSS存储
209 0
|
29天前
|
安全 关系型数据库 MySQL
MySQL的插件式认证到底是干什么的?
MySQL 的插件式认证允许使用不同的方法验证用户身份,如指纹、面部识别等,而不仅仅是用户名和密码。它增强了安全性,支持与现有系统(如 LDAP)集成,并简化了用户管理。通过认证插件,MySQL 能更灵活地验证用户,提高数据库的安全性和管理效率。
|
6月前
|
人工智能 关系型数据库 MySQL
基于阿里云的PolarDB MySQL版实现AI增强数据管理
本文将介绍如何利用阿里云的PolarDB MySQL版结合AI技术,实现数据管理的自动化和智能化。
401 0
|
2月前
|
SQL DataWorks 关系型数据库
阿里云 DataWorks 正式支持 SelectDB & Apache Doris 数据源,实现 MySQL 整库实时同步
阿里云数据库 SelectDB 版是阿里云与飞轮科技联合基于 Apache Doris 内核打造的现代化数据仓库,支持大规模实时数据上的极速查询分析。通过实时、统一、弹性、开放的核心能力,能够为企业提供高性价比、简单易用、安全稳定、低成本的实时大数据分析支持。SelectDB 具备世界领先的实时分析能力,能够实现秒级的数据实时导入与同步,在宽表、复杂多表关联、高并发点查等不同场景下,提供超越一众国际知名的同类产品的优秀性能,多次登顶 ClickBench 全球数据库分析性能排行榜。
|
3月前
|
存储 关系型数据库 MySQL
基于案例分析 MySQL 权限认证中的具体优先原则
【10月更文挑战第26天】本文通过具体案例分析了MySQL权限认证中的优先原则,包括全局权限、数据库级别权限和表级别权限的设置与优先级。全局权限优先于数据库级别权限,后者又优先于表级别权限。在权限冲突时,更严格的权限将被优先执行,确保数据库的安全性与资源合理分配。
|
5月前
|
Cloud Native 安全 中间件
核心系统转型问题之云原生架构下的基础资源设施应重点考虑什么方面
核心系统转型问题之云原生架构下的基础资源设施应重点考虑什么方面
|
5月前
|
SQL 关系型数据库 MySQL
实时数仓 Hologres操作报错合集之Flink CTAS Source(Mysql) 表字段从可空改为非空的原因是什么
实时数仓Hologres是阿里云推出的一款高性能、实时分析的数据库服务,专为大数据分析和复杂查询场景设计。使用Hologres,企业能够打破传统数据仓库的延迟瓶颈,实现数据到决策的无缝衔接,加速业务创新和响应速度。以下是Hologres产品的一些典型使用场景合集。
|
5月前
|
机器学习/深度学习 分布式计算 Cloud Native
云原生架构下的高性能计算解决方案:利用分布式计算资源加速机器学习训练
【8月更文第19天】随着大数据和人工智能技术的发展,机器学习模型的训练数据量和复杂度都在迅速增长。传统的单机训练方式已经无法满足日益增长的计算需求。云原生架构为高性能计算提供了新的可能性,通过利用分布式计算资源,可以在短时间内完成大规模数据集的训练任务。本文将探讨如何在云原生环境下搭建高性能计算平台,并展示如何使用 PyTorch 和 TensorFlow 这样的流行框架进行分布式训练。
149 2
|
5月前
|
关系型数据库 MySQL 网络安全
阿里云安装Mysql
阿里云安装Mysql
353 1
|
5月前
|
存储 SQL 人工智能
AnalyticDB for MySQL:AI时代实时数据分析的最佳选择
阿里云云原生数据仓库AnalyticDB MySQL(ADB-M)与被OpenAI收购的实时分析数据库Rockset对比,两者在架构设计上有诸多相似点,例如存算分离、实时写入等,但ADB-M在多个方面展现出了更为成熟和先进的特性。ADB-M支持更丰富的弹性能力、强一致实时数据读写、全面的索引类型、高吞吐写入、完备的DML和Online DDL操作、智能的数据生命周期管理。在向量检索与分析上,ADB-M提供更高检索精度。ADB-M设计原理包括分布式表、基于Raft协议的同步层、支持DML和DDL的引擎层、高性能低成本的持久化层,这些共同确保了ADB-M在AI时代作为实时数据仓库的高性能与高性价比

推荐镜像

更多