阿里云物联网数据的统计分析(二)|学习笔记

简介: 快速学习阿里云物联网数据的统计分析(二)

开发者学堂课程【物联网平台实操入门阿里云物联网数据的统计分析(二)】学习笔记与课程紧密联系,让用户快速学习知识

课程地址https://developer.aliyun.com/learning/course/1031/detail/15128


阿里云物联网数据的统计分析(二)

二、平台介绍

接下来进入本节课的重点介绍物联网数据分析平台。图中的最左边是设备,平台的第一层是连接,连接上去有消息流转和设备管理以及运维。接下来介绍的是数据分析主要的模块有设备备份、指标管理、Topic资产管理、时序数据分析(还在建设中)以及数据API,最右边是企业的系统。

物联网的本质是将设备数字化,数字化就是设备的属性或者是事件上报之后有两个地方使用,一个是通过规则引擎流转到企业系统进行TB业务系统的开发。另外流转之后也可以存进数仓进行大数据分析,大数据分析目前平台是做了一层底座,即对大数据有建设成本可以直接使用平台来进行大数据的分析。

接下俩介绍物联网分析平台的概述,架构图不再详细展开,着重讲解几个点,第一个是依托于阿里云的飞天的系统的分布式存储系统,保障了数据的存储是一个安全性和丢失率是极低的,另外价格是非常低的,如果感兴趣可以去官网看。

另外整个架构是存储和计算分离的,并且介绍了是分布式存储的。另外还支持多模式的计算引擎。

底下平台集层是Maxcomputer的批量计算引擎,同时对一些常见的指标使用flink进行实时数据的清洗,主要是通过基础API的方式给用户使用,没有用产品化的方式进行计算主要是考虑到流计算的成本太高,,所以用一方的方式清洗,未来随着存储也可以开放。下面还有交互式查询依托于hologres交互式引擎,同时也有机器学习的模块。在数据应用方面主要是两块,第一块是可视化的能力,同时还有数据API的提供。

操作流程可以看到最左边的是数据源,数据源分成物模型的数据和设备数据,同时业务数据也在开发中。

第二项也在开发就是数据管道,接下来是数据存储,这些是物联网新起的链流,接着到数据分析和机器学习两个模块,处理完之后可以以数据资产的形式整合起来提供给数据报表和数据API去使用。这样整个物联网的数据是一个流逝的方式,大的平台是ppl提供的处理过程。

image.png

在数据源可以看到点击备份可以备份整个物联网及实例的数据,备份默认备份标准物模型的数据,同时还提供解析管道、解析任务支持用户自定义解析事件,因为事件是嵌套的所以无法跟表对齐需要有一个解析层,同时也支持用户自定义的数据的解析。备份可以支持整个实例的备份也可以单个产品备份。

数据管道是很典型的的编排方式来处理,目前提供了一个数据源定义,源定义可以选择实例、产品、设备,设备只能是针对全部设备,另外可以选择topic类型支持事件和自定义的topic。表达式和过滤器可以通过一个表达式进行数据的转换比如四则运算常用的函数进行数据的处理,另外也支持数据的过滤,物联网数据很多时候是不标准的,需要提前进行过滤达到比较好质量的数据进行后续的加工和处理。目标源会流回到具体的产品上,后续会进行具体的展示。

image.png

下一个步骤是指标定义,指标定义可以对标到阿里的OneModle的指标设计的过程,包括数据域即所谓的指标域,也有业务过程,这两层可以对应到原生指标,原生指标经过衍生会增加一个统计周期和修饰词,修饰词有时间修饰词和业务修饰词,组合之后是派生指标。很典型的指标定义过程用系统的方式最佳实践提供出来给用户使用,刚才所讲的概念在词库管理里面会有原子词的定义,原子词包括度量、数据类型和业务口径等,内置了很多时间修饰词也开放工单方式增加相关的时间修饰词。

image.png

在指标管理罗列出了相应的指标比如故障周期是原始的指标同时也像设备全局的效能tpp属于衍生指标,右侧是任务运维,指标是t+1调度的,每天调度时会生成一个周期实例,并且相关的调度的过程可以通过日志来查看,同时如果有异常或者逻辑发生改变之后可以进行存跑。

并且也支持回刷实例,回刷实例是支持具体的指标的回刷的周期可以进行手动的数据的回刷。指标生产完之后有两个出口第一个是报表系统,报表系统可以看到右边的截图就是报表,报表包括指标卡、主副指标卡、折线图、柱状图、双轴图、条形图、散点图、仪表盘、表格。当然对于专业的BI系统可能不是很全,这里相当于将物联网数据的集成、清洗、加工以及展示进行完整的闭环,如果有更高要求可以通过数据API进行数据的拉取。

image.png

在自己的大屏或者报表获取定时化的展示,数据API也分为两部分一部分是基础服务API,这是之前介绍的会将一些通用的指标进行清洗并且以一方的指标提供在基础服务API上露出,目前有2、3组的预设的指标API,可以看到任意一天的联网分布、历史品类分布、任意一天的品类分布排行等等都是针对设备域的分析沉淀下来的指标,这样就免用户数据清洗或开发的过程。在自定义数据API里面可以根据用户的要求自己定义API的形式,定义过程之后会着重介绍,能力主要包括API的测试。

在开放之前要进行测试,可以在工作台直接进行测试,测试的时候有日志的返回,返回的数据结构的展示。同时调用示例也就是代码,展示的是Java代码调用的的示例代码,用户可以直接将相关的代码demo代码拷出去就可以调用API。另外有相关的入参和出参的说明,最基础的信息会在最顶部展示。

image.png

另外对新建的产品提供了原始数据的接口,这样用户可以将上报的数据通过批量的分页的方式拉取,这就是自定义API的过程。定义完之后可以用相关的SDK方式调用。

image.png

相关实践学习
钉钉群中如何接收IoT温控器数据告警通知
本实验主要介绍如何将温控器设备以MQTT协议接入IoT物联网平台,通过云产品流转到函数计算FC,调用钉钉群机器人API,实时推送温湿度消息到钉钉群。
阿里云AIoT物联网开发实战
本课程将由物联网专家带你熟悉阿里云AIoT物联网领域全套云产品,7天轻松搭建基于Arduino的端到端物联网场景应用。 开始学习前,请先开通下方两个云产品,让学习更流畅: IoT物联网平台:https://iot.console.aliyun.com/ LinkWAN物联网络管理平台:https://linkwan.console.aliyun.com/service-open
相关文章
|
3月前
|
SQL 分布式计算 大数据
"揭秘MaxCompute大数据秘术:如何用切片技术在数据海洋中精准打捞?"
【8月更文挑战第20天】在大数据领域,MaxCompute(曾名ODPS)作为阿里集团自主研发的服务,提供强大、可靠且易用的大数据处理平台。数据切片是其提升处理效率的关键技术之一,它通过将数据集分割为小块来优化处理流程。使用MaxCompute进行切片可显著提高查询性能、支持并行处理、简化数据管理并增强灵活性。例如,可通过SQL按时间或其他维度对数据进行切片。此外,MaxCompute还支持高级切片技术如分区表和分桶表等,进一步加速数据处理速度。掌握这些技术有助于高效应对大数据挑战。
107 0
|
4月前
|
数据采集 存储 运维
物联网设备的数据处理与分析技术探讨
【7月更文挑战第2天】探索物联网(IoT)数据处理技术,涵盖数据采集(传感器、无线通信)、存储(分布式系统、NoSQL)、处理(清洗、压缩、转换)和分析(描述性、聚类、分类、异常检测)。未来趋势涉及AI集成、边缘计算、多模态处理和系统自主化。随着技术演进,期待更智能、高效的解决方案。
|
5月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI产品使用合集之本地离线预测可以支持多张卡吗
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
物联网 数据管理 数据挖掘
阿里云物联网数据的统计分析(三)|学习笔记
快速学习阿里云物联网数据的统计分析(三)
阿里云物联网数据的统计分析(三)|学习笔记
|
物联网 数据挖掘 BI
阿里云物联网数据的统计分析(一)|学习笔记
快速学习阿里云物联网数据的统计分析(一)
阿里云物联网数据的统计分析(一)|学习笔记
|
存储 机器学习/深度学习 数据可视化
阿里云物联网数据的统计分析|学习笔记
快速学习阿里云物联网数据的统计分析。
493 0
阿里云物联网数据的统计分析|学习笔记
|
JSON 缓存 物联网
AloT 企业物联网业务平台实战03(三)|学习笔记
快速学习 AloT 企业物联网业务平台实战03(三)
214 0
AloT 企业物联网业务平台实战03(三)|学习笔记
|
物联网 Shell API
AloT 企业物联网业务平台实战03(二)|学习笔记
快速学习 AloT 企业物联网业务平台实战03
241 0
AloT 企业物联网业务平台实战03(二)|学习笔记
|
分布式计算 DataWorks 数据可视化
4.互联网、电商离线大数据分析最佳实践(三)|学习笔记
快速学习4.互联网、电商离线大数据分析最佳实践
4.互联网、电商离线大数据分析最佳实践(三)|学习笔记
|
数据可视化 数据挖掘 索引
数据分析三剑客【AIoT阶段一(下)】(十万字博文 保姆级讲解)—Matplotlib—数据可视化高级(八)
你好,感谢你能点进来本篇博客,请不要着急退出,相信我,如果你有一定的 Python 基础,想要学习 Python数据分析的三大库:numpy,pandas,matplotlib;这篇文章不会让你失望,本篇博客是 【AIoT阶段一(下)】 的内容:Python数据分析,
179 0
数据分析三剑客【AIoT阶段一(下)】(十万字博文 保姆级讲解)—Matplotlib—数据可视化高级(八)

热门文章

最新文章

相关产品

  • 物联网平台
  • 下一篇
    无影云桌面