MaxCompute 使用SQL进行同时在线问题分析

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 同一时刻处于相同状态的有多少,类似于这样的需求在游戏、电商、直播、教育等行业中很常见,本文就该问题分享下个人想法

同时在线问题在游戏、电商、直播、教育等互联网行业中很常见,该指标直接展示了各行业的竞争力,Boss也是很关注这个点,结果放到大屏展示也是在显眼的位置。这个问题如何进行分析呢,话不多说,直接上示例

案例:某游戏玩家玩游戏时间表如下:玩家ID、上线时间、下线时间

player_id

on_time

off_time

10001

2021-08-19 08:08:08

2021-08-19 12:11:23

10002

2021-08-19 09:01:07

2021-08-19 13:15:12

10003

2021-08-19 10:12:14

2021-08-19 10:50:18

10004

2021-08-19 09:20:21

2021-08-19 12:46:25

10005

2021-08-19 10:14:22

2021-08-19 13:26:15

10006

2021-08-19 11:11:25

2021-08-19 16:24:18

10007

2021-08-19 12:00:00

2021-08-19 17:48:03

10008

2021-08-19 13:12:14

2021-08-19 18:18:14

10009

2021-08-19 15:21:21

2021-08-19 21:15:17

10010

2021-08-19 18:20:02

2021-08-19 23:45:12

...

...

...

要求展示每天的最高在线人数:

date

online_ct

2021-08-01

254120

2021-08-02

198652

...

...

分析:在之前的文章中我们也使用过增加一个列用作标记,应用在这里可以对每个玩家上线标记1,下线标记-1,应用流式思想来一条数据就累加这个标记值,当然这个需要按时间先后顺序。累加的值就代表当前在线的人数问题。

  1. 首先生成示例数据
with tb1 as(select        player_id,        on_time,        off_time,        substr(on_time,1,10)as dt
fromvalues('10001','2021-08-19 08:08:08','2021-08-19 12:11:23'),('10002','2021-08-19 09:01:07','2021-08-19 13:15:12'),('10003','2021-08-19 10:12:14','2021-08-19 10:50:18'),('10004','2021-08-19 09:20:21','2021-08-19 12:46:25'),('10005','2021-08-19 10:14:22','2021-08-19 13:26:15'),('10006','2021-08-19 11:11:25','2021-08-19 16:24:18'),('10007','2021-08-19 12:00:00','2021-08-19 17:48:03'),('10008','2021-08-19 13:12:14','2021-08-19 18:18:14'),('10009','2021-08-19 15:21:21','2021-08-19 21:15:17'),('10010','2021-08-19 18:20:02','2021-08-19 23:45:12')               t(player_id,on_time,off_time))
  1. 利用前面分析的列转行方法,将每个玩家的上下线时间转成一列
tb2 as(select       player_id,       on_time as on_off_time,       dt,1as flag 
from tb1
union all 
select       player_id,       off_time as on_off_time,       dt,-1as flag 
from tb1
)
  1. 按时间先后顺序进行累加
tb3 as(select        player_id,        on_off_time,        dt,        flag,        sum(flag) over(partition by dt orderby on_off_time) sums
from tb2
)--结果如下player_id on_off_time     dt          flag  sums
100012021-08-1908:08:082021-08-1911100022021-08-1909:01:072021-08-1912100042021-08-1909:20:212021-08-1913100032021-08-1910:12:142021-08-1914100052021-08-1910:14:222021-08-1915100032021-08-1910:50:182021-08-19-14100062021-08-1911:11:252021-08-1915100072021-08-1912:00:002021-08-1916100012021-08-1912:11:232021-08-19-15100042021-08-1912:46:252021-08-19-14100082021-08-1913:12:142021-08-1915100022021-08-1913:15:122021-08-19-14100052021-08-1913:26:152021-08-19-13100092021-08-1915:21:212021-08-1914100062021-08-1916:24:182021-08-19-13100072021-08-1917:48:032021-08-19-12100082021-08-1918:18:142021-08-19-11100102021-08-1918:20:022021-08-1912100092021-08-1921:15:172021-08-19-11100102021-08-1923:45:122021-08-19-10
  1. 按天统计最高人数
select    dt asdate,    max(sums)as online_ct
from tb3
groupby dt;--结果如下date        online_ct
2021-08-196

掌握该类问题分析方法对业务需求分析有很大帮助,该类问题也可细化为每个小时在线人数等等。

拜了个拜

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
18天前
|
SQL JSON 分布式计算
ODPS SQL ——列转行、行转列这回让我玩明白了!
本文详细介绍了在MaxCompute中如何使用TRANS_ARRAY和LATERAL VIEW EXPLODE函数来实现列转行的功能。
|
24天前
|
SQL 分布式计算 MaxCompute
一种基于ODPS SQL的全局字典索引分布式计算思路
本文提供一种能充分利用分布式计算资源来计算全局字典索引的方法,以解决在大数据量下使用上诉方式导致所有数据被分发到单个reducer进行单机排序带来的性能瓶颈。
|
1月前
|
SQL 存储 分布式计算
我在淘宝写SQL|ODPS SQL 优化总结
本文结合作者多年的数仓开发经验,结合ODPS平台分享数据仓库中的SQL优化经验。
|
1月前
|
SQL 分布式计算 DataWorks
DataWorks产品使用合集之未保存的ODPS SQL语句该如何找回
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
13天前
|
SQL 分布式计算 大数据
大数据开发SQL代码编码原则和规范
这段SQL编码原则强调代码的功能完整性、清晰度、执行效率及可读性,通过统一关键词大小写、缩进量以及禁止使用模糊操作如select *等手段提升代码质量。此外,SQL编码规范还详细规定了代码头部信息、字段与子句排列、运算符前后间隔、CASE语句编写、查询嵌套、表别名定义以及SQL注释的具体要求,确保代码的一致性和维护性。
17 0
|
20天前
|
监控 Java 开发者
揭秘Struts 2性能监控:选对工具与方法,让你的应用跑得更快,赢在起跑线上!
【8月更文挑战第31天】在企业级应用开发中,性能监控对系统的稳定运行至关重要。针对流行的Java EE框架Struts 2,本文探讨了性能监控的工具与方法,包括商用的JProfiler、免费的VisualVM以及Struts 2自带的性能监控插件。通过示例代码展示了如何在实际项目中实施这些监控手段,帮助开发者发现和解决性能瓶颈,确保应用在高并发、高负载环境下稳定运行。选择合适的监控工具需综合考虑项目需求、成本、易用性和可扩展性等因素。
28 0
|
21天前
|
SQL 数据采集 数据挖掘
为什么要使用 SQL 函数?详尽分析
【8月更文挑战第31天】
13 0
|
21天前
|
SQL 数据挖掘 BI
【超实用技巧】解锁SQL聚合函数的奥秘:从基础COUNT到高级多表分析,带你轻松玩转数据统计与挖掘的全过程!
【8月更文挑战第31天】SQL聚合函数是进行数据统计分析的强大工具,可轻松计算平均值、求和及查找极值等。本文通过具体示例,展示如何利用这些函数对`sales`表进行统计分析,包括使用`COUNT()`、`SUM()`、`AVG()`、`MIN()`、`MAX()`等函数,并结合`GROUP BY`和`HAVING`子句实现更复杂的数据挖掘需求。通过这些实践,你将学会如何高效地应用SQL聚合函数解决实际问题。
32 0
|
21天前
|
SQL 存储 分布式计算
MaxCompute SQL 与传统 SQL 的异同
【8月更文第31天】随着大数据处理的需求日益增长,传统的 SQL 数据库已经无法满足海量数据的分析需求。MaxCompute(又名 ODPS,Open Data Processing Service)是阿里云提供的大数据处理平台,它提供了 SQL 接口,使得用户可以通过熟悉的 SQL 语法来处理大规模的数据集。然而,由于 MaxCompute 设计初衷是为了处理 PB 级别的数据,因此其 SQL 与传统的 SQL 存在一些差异。本文将探讨 MaxCompute SQL 与标准 SQL 的异同,并介绍 MaxCompute SQL 的一些特殊功能。
22 0
|
28天前
|
网络协议 NoSQL 网络安全
【Azure 应用服务】由Web App“无法连接数据库”而逐步分析到解析内网地址的办法(SQL和Redis开启private endpoint,只能通过内网访问,无法从公网访问的情况下)
【Azure 应用服务】由Web App“无法连接数据库”而逐步分析到解析内网地址的办法(SQL和Redis开启private endpoint,只能通过内网访问,无法从公网访问的情况下)