【视频】云原生数据仓库 Analyticdb MYSQL 版-解析与实践-3|学习笔记(四)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
简介: 快速学习【视频】云原生数据仓库 Analyticdb MYSQL 版-解析与实践-3

开发者学堂课程【数据仓库 ACP 认证课程【视频】云原生数据仓库 Analyticdb MYSQL 版-解析与实践-3】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/928/detail/14625


【视频】云原生数据仓库 Analyticdb MYSQL 版-解析与实践-3


3.删除数据/分区/表

AnalyticDB for MySQL提供多种数据删除方式,主要语句为DELETE与TRUNCATE。推荐策略为∶

l 数据删除频率低、基于主键为条件的删除,可通过DELETE FROM WHERE PK='xx'删除数据。

l 数据删除频率低、基于任意条件的删除,可通过DELETE删除数据。

如果数据删除频率低一般都用DELETE完成,删除大量数据可以通过TRUNCATE完成,并且TRUNCATE可以删除表中某一分区。

l 通过TRUNCATE TABLE db_name.table_name PARTITION partition_name册除指定二级分区。

l 通过TRUNCATE TABLE db_name.table_name删除指定表(包括所有二级分区)数据。

4.批量导入数据

AnalyticDB for MySQL支持多种数据源,实现数据导入导出。批量导入适用于大数据量导入的场景,导入过程中可以查询旧数据,导入操作完成后一键切换新数据。导入失败时,支持回滚新数据,不影响查询旧数据。

l 从大数据系统、大存储环境导入数据,采用INSERT OVERWRITE INTO SELECT方式处理,如从MaxCompute、OSS导入数据到AnalyticDB for MySQL;

l 批量导入单个表时,导入任务会在系统中串行执行;批量导入多个表时,导入任务会在系统中并行执行,默认并行执行2个任务;

1. 实时导入数据

l AnalyticDB for MySQL实时导入适用于小数据量导入的场景。

l 从业务系统实时导入数据时采用INSERTINTO SELECT FROM,把一个表的数据导入另一个表中。

l 实时导入任务使用AnalyticDB for MySQL中的资源,如果查询数据期间需要导入数据,建议在QPS(Query Per Second,每秒查询率)较低时进行导入操作。导入会耗费资源,如果在用户查询高峰期导入数据,会对正常业务带来影响。


四、操作演示——创建数据仓库并完成数据同步

把RDS MySQL中一张表的数据导入进ADB MySQL中,实现数据导入。

过程分为6个步骤:

1. 在ADB MySQL创建高权限账号

2. 创建数据库

3创建RDS MySQL外表

4.创建AnalyticDB MySQL表

5.转储RDS MySQL的数据到AnalyticDB MySQL中

6.导入数据验证

实验以ADS官方文档进行操作。通过已经建好的ADS MySQL集群以及RDS实例,将数据从RDS中导入进ADS MySQL中。RDS MySQL实例需与AnalyticDB MySQL集群在同一个VPC下。

image.png为了保证AnalyticDB MySQL能访问RDS,需要将RDS设置白名单。默认白名单为1.27.0.1,表示禁止所有地址访问。复制专有网络的地址后修改RDS白名单

 image.png

image.pngRDS数据库创建账号登录DMS。使用root创建数据库账号,获取最高权限。设置密码。

image.png访问数据库在数据库连接中获取地址,获取地址后创建外部表可以用到。

此时需要创建两个表,一个是adb数据局的表,一个是外部表,通过外部表来实现数据的导入导出。首先需要登录到集群当中,创建账号,创建一个最高权限的账号,名称为root,同时设置密码。

image.png此时对于adb mysql集群来说,如果想要通过外表的方式导入数据,需要打开网络,然后此时可以连接集群,在集群中创建对应数据库及web的映射表。

image.png默认数据库有两个,此时需要创建一个自己的数据库,命名为adb.demo,此时可以访问它,在adb当中再创建一张外部表,创建语句为:

CREATE TABLE IF NOT EXISTS goods_external_table (

goods_id bigint(20) NOT NULL,

price double NOT NULL, class bigint(20) NOT NULL,

name varchar(32) NOT NULL,

update_time timestamp,

PRIMARY KEY (goods_id)

)

ENGINE='mysql' TABLE_PROPERTIES='{

"url":"jdbc:mysql://rm-bp1925ru5x6pzt2m3.mysql.rds.aliyuncs.com.3306/test_adb",

"tablename":"goods",

"username":"root",

"password":"zhou_123456"

}';

此时已经完成了外部表的创建,此时需要在adb mysql当中创建自己的表,代码如下:

CREATE TABLE IF NOT EXISTS mysql_import_test (

goods_id bigint(20) NOT NULL,

price double NOT NULL,

class bigint(20) NOT NULL,

name varchar(32) NOT NULL,

update_time timestamp, PRIMARY KEY (goods_id)

)

DISTRIBUTED BY HASH(goods_id);

此时有了外部表和一个adb的表,此时可以通过insert来完成数据的导入导出,此时执行代码如下:

Insert inte mysql_import_test select * from good_external_table;//导入操作

此时执行,可以看到执行一条语句成功,此时打开表,可以看到已经显示。

image.png此时完成了一次数据导入的过程。把rds mysql的数据导入到了adb mysql当中。

此时案例演示结束。

 

五、试题

1. 在AnalyticDB MySQL中,_____尽可能需要将Join的字段作为分布键。例如订单表和用户表通过user_id做join,这两张表都可用user_id做分布。

A,.本地化原则

B. 均匀性原则

C. 分布式原则

D. 复制原则

解析:

A,此种方式可以保证join在本节点完成,不需要做数据的传输,又例如提高性能。

2. 在AnalyticDB MySQL版中,冷数据指的是访问频次较低的数据,采用______存储,满足存储空间的需求。

A. SSD

B. HDD

C. SSHD

D. SHDD

解析:

B,AnalyticDB MySQL一个显著的特征是实现了冷热数据分层,在创建表时,可以指定表是以热、冷还是温数据存储。热数据是存储在SSD(准确的说是ESSD)冷数据是存在OSS。

3. 在AnalyticDB MySQL版中,为什么需要全量同步?

A. 源库历史数据的binlog可能已经删除

B. 开启同步钱源表中已有数据,必须通过全量数据同步来同步

C. 全量同步可以并行拉取和同步,大量历史数据的同步性能较好

D. AnalyticDB MySQL端的表结构需要全量同步来创建。

解析:

AC,源库历史数据的binlog可能已经删除,此时无法通过日志触放的方式来完成数据的导入,只能通过全量方式来实现。同时,全量同步根据主键来进行划分,划分之后每一部分数据可以并行来处理,具有较好的性能。

4. 在AnalyticDB MySQL版中,下列有关查询优化手段说法正确的是_______。

A. 查询过滤条件中指定分部间或分区建可以进行分区裁剪,减少扫描数据量。

B. 过滤条件中的列确保创建索引,才能支持条件下推

C. 对于筛选率比较低的过滤条件,可以指定列no-index进行调选

D. 聚集索引可以建多个,比如既要按照卖家id频繁访问,又要按照品牌id频繁访问,那可以建2个聚集索引

解析:

ABC,一个表上只能创建一个聚集索引,因为聚集索引会造成数据重分布,如果有多个聚集索引,数据不知按哪个进行分布。


六、回顾与总结

image.png

相关实践学习
AnalyticDB MySQL海量数据秒级分析体验
快速上手AnalyticDB MySQL,玩转SQL开发等功能!本教程介绍如何在AnalyticDB MySQL中,一键加载内置数据集,并基于自动生成的查询脚本,运行复杂查询语句,秒级生成查询结果。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
10天前
|
Kubernetes Cloud Native 持续交付
云原生技术在现代应用开发中的角色与实践
【9月更文挑战第9天】 随着云计算技术的飞速发展,云原生(Cloud Native)已经成为推动企业数字化转型的核心力量。本文将深入探讨云原生的基本概念、关键技术及其在实际开发中的应用案例,旨在为读者提供一条清晰的云原生技术学习路径和应用指南。通过实例分析,我们将揭示云原生如何优化资源管理、提升应用性能及加快部署速度,进而帮助企业构建更加灵活、可靠和高效的软件系统。
|
7天前
|
Cloud Native 持续交付 云计算
云原生技术在现代应用开发中的应用与实践
【9月更文挑战第12天】随着云计算技术的飞速发展,云原生已成为推动企业数字化转型的关键技术之一。本文将深入探讨云原生的基本概念、核心价值及其在现代应用开发中的实际应用案例,旨在为读者提供一套清晰的云原生应用开发指南。通过分析容器化、微服务架构、持续部署等核心技术的实践过程,我们将揭示云原生如何助力开发者高效构建、部署和管理可扩展的应用。你将看到代码示例,这些示例均选自真实世界的开发场景,帮助你理解云原生技术的强大功能和灵活性。
|
7天前
|
运维 Cloud Native Devops
云原生架构的崛起与实践云原生架构是一种通过容器化、微服务和DevOps等技术手段,帮助应用系统实现敏捷部署、弹性扩展和高效运维的技术理念。本文将探讨云原生的概念、核心技术以及其在企业中的应用实践,揭示云原生如何成为现代软件开发和运营的主流方式。##
云原生架构是现代IT领域的一场革命,它依托于容器化、微服务和DevOps等核心技术,旨在解决传统架构在应对复杂业务需求时的不足。通过采用云原生方法,企业可以实现敏捷部署、弹性扩展和高效运维,从而大幅提升开发效率和系统可靠性。本文详细阐述了云原生的核心概念、主要技术和实际应用案例,并探讨了企业在实施云原生过程中的挑战与解决方案。无论是正在转型的传统企业,还是寻求创新的互联网企业,云原生都提供了一条实现高效能、高灵活性和高可靠性的技术路径。 ##
18 3
|
7天前
|
Cloud Native 持续交付 开发者
云原生技术在现代应用开发中的角色与实践
【9月更文挑战第12天】本文将探索云原生技术的核心概念及其在现代软件开发中的应用。通过分析容器化、微服务架构、持续集成/持续部署(CI/CD)和DevOps文化的融合,我们旨在揭示如何利用这些技术提升软件的可靠性、可扩展性和交付速度。同时,文章还将展示一个简化的代码示例,以直观地说明云原生技术的实际应用。
|
14天前
|
监控 Cloud Native 持续交付
云原生时代的微服务架构实践
【9月更文挑战第5天】随着云计算技术的飞速发展,云原生已成为现代软件开发的重要趋势。本文将深入探讨在云原生环境下,如何有效实施微服务架构,包括服务拆分、容器化部署、持续集成与交付等关键环节。通过具体案例,我们将展示如何在云平台上构建弹性、可扩展的微服务应用,并讨论在此过程中可能遇到的挑战及解决策略。
|
13天前
|
监控 Cloud Native 安全
云原生时代的微服务架构实践
【9月更文挑战第6天】在数字化转型的浪潮中,云原生技术以其灵活性、可扩展性成为企业架构升级的首选。本文将通过浅显易懂的语言和生动的比喻,带你一探微服务架构的世界,从理论到实践,逐步揭示如何利用云原生技术构建高效、可靠的微服务系统,同时穿插代码示例,为有志于云原生领域发展的技术人员提供一份实操指南。
29 2
|
15天前
|
Cloud Native 持续交付 Docker
云原生技术实践:Docker容器化部署教程
【9月更文挑战第4天】本文将引导你了解如何利用Docker这一云原生技术的核心工具,实现应用的容器化部署。文章不仅提供了详细的步骤和代码示例,还深入探讨了云原生技术背后的哲学,帮助你理解为何容器化在现代软件开发中变得如此重要,并指导你如何在实际操作中运用这些知识。
|
13天前
|
运维 Cloud Native 持续交付
云原生时代下的微服务架构实践
在数字化转型的浪潮中,云原生技术以其高效、灵活的特性成为企业IT架构升级的首选。本文将通过深入浅出的方式,探讨云原生环境下微服务架构的设计原则、关键技术及实施策略,旨在为读者提供一条清晰的技术路线图,帮助理解和掌握在云平台上构建和管理微服务的实用方法。
|
17天前
|
运维 Cloud Native Devops
云原生时代的DevOps实践:自动化、持续集成与持续部署
【9月更文挑战第3天】未来,随着人工智能、大数据等技术的不断融入,DevOps实践将更加智能化和自动化。我们将看到更多创新的技术和工具涌现出来,为软件开发和运维带来更多便利和效益。同时,跨团队协作和集成也将得到进一步加强,推动软件开发向更加高效、可靠和灵活的方向发展。
|
19天前
|
Kubernetes Cloud Native Docker
探索云原生技术:从容器化到微服务的实践之旅
在数字时代的浪潮中,云原生技术如同一艘航船,带领企业乘风破浪。本文将带你领略云原生的奥妙,从容器化技术的基石Docker讲起,到Kubernetes集群管理的航海术,再到微服务的架构设计,我们将一起构建、部署并运行一个简单的云原生应用。准备好,让我们启航!【8月更文挑战第31天】

热门文章

最新文章