MaxCompute SQL使用小技巧之行列转换

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 行列转换在业务需求分析经常使用,方法很多,这里介绍下使用Maxcomputer内置函数进行转换

行列转换根据具体业务需求有跟多方式,这里介绍下个人的想法,话不多说,上示例

案例行转列:有一张成绩表(如下)

name

subject

score

兮辰

语文

85

兮辰

数学

92

兮辰

英语

98

兮辰

体育

91

无尽

语文

90

无尽

数学

89

无尽

英语

93

无尽

体育

86

...

...

...

展示如下:

name

Chi

Math

Eng

P.E

兮辰

85

92

98

91

无尽

90

89

93

86

...

...

...

...

...

首先先生成示例数据

with tb as(select        name,        subject,        score
fromvalues('兮辰','语文',85),('兮辰','数学',92),('兮辰','英语',98),('兮辰','体育',91),('无尽','语文',90),('无尽','数学',89),('无尽','英语',93),('无尽','体育',86)               t(name,subject,score))

方式1:使用case when配合聚合函数max

select    name,    max(case when subject ='语文' then score end)as Chi,    max(case when subject ='数学' then score end)as Math,    max(case when subject ='英语' then score end)as Eng,    max(case when subject ='体育' then score end)as PE
from tb
groupby name;--结果如下:name chi math eng pe
兮辰  85929891无尽  90899386

方式2:使用collect_list函数(根据需求不同,也可以使用collect_list+array_contains组合方式)

--该方式也有弊端,必须保障原表各科目顺序是一致的,否则从数组里拿出来的成绩将不对应select    name,    score_list[0]as Chi,    score_list[1]as Math,    score_list[2]as Eng,    score_list[3]as PE
from(select        name,        collect_list(score)as score_list
from tb 
groupby name
)tmp;--结果如下:name  chi math  eng pe
兮辰  85929891无尽  90899386

方式3:使用keyvalue函数,详细使用方法见阿里云文档

https://help.aliyun.com/document_detail/48973.html?spm=a2c4g.11186623.6.833.2dd76fd0jGM2C7#section-lnq-tyz-vdb

--将字符串'1:a;2:b'拆分为Key-Value对,返回其中key为1的value值select keyvalue('1:a;2:b',1);--a
select    name,    keyvalue(subject,'语文')as Chi,    keyvalue(subject,'数学')as Math,    keyvalue(subject,'英语')as Eng,    keyvalue(subject,'体育')as PE
from(select        name,        wm_concat(';',concat(subject,':',score))as subject
from ta
groupby name
)tmp
--结果如下:name  chi math  eng pe
兮辰  85929891无尽  90899386

案例列转行:有一张成绩表(如下)

name

Chi

Math

Eng

P.E

兮辰

85

92

98

91

无尽

90

89

93

86

...

...

...

...

...

展示如下:

name

subject

score

兮辰

语文

85

兮辰

数学

92

兮辰

英语

98

兮辰

体育

91

无尽

语文

90

无尽

数学

89

无尽

英语

93

无尽

体育

86

...

...

...

首先生成示例数据

with tb as(select        name,        Chi,        Math,        Eng,        PE
fromvalues('兮辰',85,92,98,91),('无尽',90,89,93,86)                t(name,Chi,Math,Eng,PE))

方式1:使用union all,较为常用

select    name,    subject,    score
from(select name,'语文'as subject,Chi as score from tb
union all 
select name,'数学'as subject,Math as score from tb
union all 
select name,'英语'as subject,Eng as score from tb
union all 
select name,'体育'as subject,PE as score from tb
);--结果如下:name subject  score
兮辰  语文  85无尽  语文  90兮辰  数学  92无尽  数学  89兮辰  英语  98无尽  英语  93兮辰  体育  91无尽  体育  86

方式2:map函数+explode展开

select    name,    subject,    score
from(select            name,            map('语文',Chi,'数学',Math,'英语',Eng,'体育',PE
)as kv
from tb
) tmp 
lateral view explode(kv) t as subject,score;--结果如下:name subject  score
兮辰  体育  91兮辰  数学  92兮辰  英语  98兮辰  语文  85无尽  体育  86无尽  数学  89无尽  英语  93无尽  语文  90

方式3:使用trans_array函数:将一行数据转为多行的UDTF,将列中存储的以固定分隔符格式分隔的数组转为多行。具体使用方法见阿里云文档

https://help.aliyun.com/document_detail/48976.html?spm=a2c4g.11186623.6.834.7b052785nBNKFP#section-vxw-9dg-ypz

select    name,    split_part(subject,':',1)as subject,    split_part(subject,':',2)as result
from(select        trans_array(1,";",name,subject)as(name,subject)from(select            name,            concat('语文',':',Chi,';','数学',':',Math,';','英语',':',Eng,';','体育',':',PE)as subject
from tb
)tmp1
)tmp2;--结果如下:name  subject result
兮辰  语文  85兮辰  数学  92兮辰  英语  98兮辰  体育  91无尽  语文  90无尽  数学  89无尽  英语  93无尽  体育  86

上面的示例只是提供了一种思路,可能与具体的业务需求不同,有不同想法的欢迎交流。

拜了个拜

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
27天前
|
SQL 消息中间件 分布式计算
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
59 0
|
27天前
|
SQL 大数据
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(二)
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(二)
54 0
|
27天前
|
SQL 大数据 API
大数据-132 - Flink SQL 基本介绍 与 HelloWorld案例
大数据-132 - Flink SQL 基本介绍 与 HelloWorld案例
40 0
|
27天前
|
SQL 分布式计算 大数据
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)
34 0
|
27天前
|
SQL 分布式计算 算法
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(二)
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(二)
66 0
|
27天前
|
SQL 分布式计算 Java
大数据-96 Spark 集群 SparkSQL Scala编写SQL操作SparkSQL的数据源:JSON、CSV、JDBC、Hive
大数据-96 Spark 集群 SparkSQL Scala编写SQL操作SparkSQL的数据源:JSON、CSV、JDBC、Hive
29 0
|
27天前
|
SQL 分布式计算 大数据
大数据-94 Spark 集群 SQL DataFrame & DataSet & RDD 创建与相互转换 SparkSQL
大数据-94 Spark 集群 SQL DataFrame & DataSet & RDD 创建与相互转换 SparkSQL
40 0
|
27天前
|
SQL 存储 分布式计算
大数据-93 Spark 集群 Spark SQL 概述 基本概念 SparkSQL对比 架构 抽象
大数据-93 Spark 集群 Spark SQL 概述 基本概念 SparkSQL对比 架构 抽象
35 0
|
2月前
|
SQL JSON 分布式计算
ODPS SQL ——列转行、行转列这回让我玩明白了!
本文详细介绍了在MaxCompute中如何使用TRANS_ARRAY和LATERAL VIEW EXPLODE函数来实现列转行的功能。
|
3月前
|
SQL 分布式计算 MaxCompute
一种基于ODPS SQL的全局字典索引分布式计算思路
本文提供一种能充分利用分布式计算资源来计算全局字典索引的方法,以解决在大数据量下使用上诉方式导致所有数据被分发到单个reducer进行单机排序带来的性能瓶颈。