知识点!典型的工业企业大数据分析平台解决方案(含数据治理)

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。

    一、总体思路

     当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。工业企业大数据平台建设的总体思路是将现有PLC、MES、ERP、CRM、SRM、SCM、电子商务及财务共享服务等信息系统的业务数据,采用大数据技术,抽取到全业务数据中心,建立逻辑关联,整合成大数据仓库。从战略任务分解、经营计划执行和风险全周期管控,对集团的供应链服务数据、经营管理数据和生产过程数据,在全业务数据中心的支持下,建立基于业务流程数字化管控链条,打通现有信息系统的壁垒,让各级管理者和一线业务人员,能够及时获取历史数据和实时数据。想看到什么数据就能看到什么数据,实现数据按需服务,达到数据可视化,具备管理驾驶舱、报表和智能化查询的全业态数据一体化服务。

1ebe13817094cde0474df13ab1e4c425.png      二、方针和原则

     1、建设方针

     工业大数据分析平台按照“实用、可靠、先进、标准、开放”的方针进行建设。

     实用就是工业大数据分析平台的建设是要为经营管理提供洞察的,要具有实用价值;

     可靠就是工业大数据分析平台提供的数据必须是准确的,提供的分析依据是可靠的;

     先进就是工业大数据分析平台要具备前瞻性,可以快速响应未来数据形态变化的需求;

     标准就是工业大数据分析平台要实现数据、接口、服务、集成的标准化,具有可扩展性;

     开放就是工业大数据分析平台要能够管理和处理内部数据和外部数据,具有开放特性。

     2、建设原则

     工业大数据分析平台的建设原则是:

     整体规划、分步实施;

     统一标准、强化管理;

     信息公开、资源共享;

     需求主导、保障安全;

     自上而下设计,自下而上集成。

     三、核心功能

     工业大数据分析平台应具备以下核心功能:

     1、基于财务效益分析

     包括利润分析、利税分析、可利用资金分析、财务费用分析、管理费用分析等,能够实现与历史数据、与年度目标、与成员企业、与国内同行等多维度对比分析等。

     2、基于外部经济形势、行业形势与价格走势的分析

     包括宏观经济数据分析,行业数据分析、大宗原材料及产成品市场价格信息分析等,能够实现宏观经济数据、行业形势数据、价格走势数据采集和分析,在集团内形成集团管理部门和子分公司共享,实现支持决策的一体化。

     3、基于市场研判分析

     对企业产品、大宗原材料,在集团内设立市场研判信息采集源,通过电子问卷,定期(如每旬市场分析会召开之前)采集个人判断,并由系统自动汇总、通过观念整理,汇总群体判断,支持领导决策。

     4、基于内部经营的分析

     包括原材料、半成品、产成品的库存数量分析、结构分析、成本分析、潜盈亏分析,流动资金占用分析等,支持领导合理把控库存节奏。

     5、基于成本及毛利分析

     包括标准成本测算、订单成本测算、产品成本模拟测算、标准成本与实际成本差异分析。基于大宗原材库存价、当月采购价、当前市场价等不同价格条件下,不同品类产品的生产成本、毛利分析等。

     6、基于其它专业管理的决策分析

     包括生产管理、质量管理、安全管理、风险管理等。

6009a0cb7e0792151666c927716b548d.png       7、全业务数据视图

     工业大数据分析平台提供是自上而下的决策支持能力,能够为企业的决策者、各级管理者及业务负责人提供全业务数据视图以及全集团的管理视图。


5039a7ac1fc6250ee586bcf9b726a49e.png

     四、技术架构

     1、逻辑架构

     工业大数据分析平台的逻辑架构一般由数据源管理、数据存储管理、数据分析管理和数据展现四部分组成。

     数据源管理主要包括结构化的财务数据、生产数据、采购数据、销售数据、库存数据等,非结构化的文本、视频、图像等;流结构的过程数据、边缘计算数据等。

     数据存储管理主要包括ETL组件、元数据管理、大数据存储、ODS存储、主题数据存储、各种数据分析模型等。

     数据分析管理主要包括统计分析数据挖掘、报表及查询、OLAP分析、图形化及仪表盘、数据自助分析等;

     数据展现层主要是供集团领导、职能管理部门、二级板块、子分公司以及各级生产单元进行使用。

9fd32ae55fd0386df9a72fbd6bb5587e.png

     2、技术架构

     工业大数据分析平台的技术架构一般由数据源层、采集层、存储与计算层、数据服务层和应用层五部分组成。

     数据源层主要技术涉及关系型数据、文件、流数据以及企业外部数据源等。

     采集层主要技术涉及批量数据采集、流数据采集以及外部数据采集等。

     存储与计算层主要技术涉及批量计算的HIVE、Mahout、Graph、HDFS的技术、结构化数据库的MySql、oracle、DB2等技术以及在线分析的Srom、Spark Streaming等技术等。

     数据服务层主要技术涉及各类技术协议、数据协议、标签、数据模型管理等;

     应用层主要包括交互式探查、收益分析、风险分析、KPI等可视化决策支持技术。

865970ed2b8a345699dad7e8264d1bd2.png

     五、数据架构

     工业大数据分析平台的数据架构更偏重于数据架构中的逻辑模型设计。主要分为子分公司业务系统数据、子分公司BI应用数据架构、集团业务管理数据架构以及集团决策支持的数据架构。

5a441aea1405930413eddfc164874aa4.png

     六、可视化设计

     1、数据展示

     采用数据可视化技术,通过报表工具,将EDW和数据集市中的数据,根据业务逻辑和管理需求,进行多种样式的数据展现,并能实现数据挖掘功能。

2e81646012089ae9d62027699abcaebb.png

    2、管理驾驶舱

     管理驾驶舱打破数据隔离,实现指标分析及决策场景落地。通过详尽的指标体系,实时反映企业的运行状态,将采集的数据形象化、直观化、具体化。为高层管理层提供的“一站式”(One-Stop)决策支持服务。管理驾驶舱应至少提供144个指标,应包括企业所有的业务环节。具体的指标体系包括:财务、供应,库存、销售、生产、设备、人力资源、质量、物价等组成部分。

f8fef153dcef9a2b75be22da117648d0.png      

3、EXCEL表格报表

     报表功能是为企业中各层级管理人员所提供的个性化的报表服务。不同角色能轻易获得为各岗位、角色设置的常用报表,能获取其他被授权查看的预定义或即席分析型报表。同时还要实现主动式报表推送服务,可以定时和事件触发的方式将相关报表以邮件方式提供给用户。

701844cd33b1f88a2233c199a622e10f.png

     4、可视化仪表盘

     使用仪表盘数据可视化进行企业数据分析,报告业务状态为利益相关者提供了快速,高水平的视图,但有针对性的因果分析可以产生有价值的信息,可以实现底线改进。仪表盘数据可视化不仅仅是大数据和分析的任何其他入口点,它还为企业带来了价值,因为它们可以显示运营状态,销售结果以及众多其他公司事件的底层运营状况,让企业高管不需要花更多的时间在数据分析上。

d0c966bfa9bdded5ef97ef7aa5ad4922.png

    5、自助查询可视化

823925f92cb7234ace1933a13701473b.png

e5014950a0fb58e3c0047584bd0355ec.png

     七、大数据中心建设方案

     1、大数据中心规划咨询

     (1)必要性论证:大数据的开发利用应该提升到公司战略层面;数据治理应该上升到公司治理层面。

     (2)大数据中心规划:采用TOGAF方法论,前瞻技术和应用发展趋势,解读企业发展战略,将各业务条线的业务数据,按主题域建模,业务建模阶段着重于数据标准化和数据资源应用场景设计,确定数据资源开发项目的业务价值和技术上可操作性。

f08015a1fe9290d6359ce6722b6b7604.png

     2、大数据平台建设实施

     (1)数据治理:发布数据治理组织机构的分工、职责、制度、流程;设定数据治理各项工作流程的工作标准和技术标准,采用工作流处理数据治理各项工作流程。

     (2)数据质量:对各应用系统数据的一致性、完整性、准确性和及时性进行审查、监控、考核。

     (3)主数据:发布主数据分类标准、数据模型标准、代码编制标准和申请维护流程,保证主数据一致性。

     (4)数据指标:制定各类数据指标模板和代码编制标准和申请维护流程,按主题域发布KPI指标体系。

     (5)数据资源目录:将数据资源登记入库,建立逻辑数据资源库,发布数据资源服务目录。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
7天前
|
存储 大数据 测试技术
用于大数据分析的数据存储格式:Parquet、Avro 和 ORC 的性能和成本影响
在大数据环境中,数据存储格式直接影响查询性能和成本。本文探讨了 Parquet、Avro 和 ORC 三种格式在 Google Cloud Platform (GCP) 上的表现。Parquet 和 ORC 作为列式存储格式,在压缩和读取效率方面表现优异,尤其适合分析工作负载;Avro 则适用于需要快速写入和架构演化的场景。通过对不同查询类型(如 SELECT、过滤、聚合和联接)的基准测试,本文提供了在各种使用案例中选择最优存储格式的建议。研究结果显示,Parquet 和 ORC 在读取密集型任务中更高效,而 Avro 更适合写入密集型任务。正确选择存储格式有助于显著降低成本并提升查询性能。
42 1
用于大数据分析的数据存储格式:Parquet、Avro 和 ORC 的性能和成本影响
|
4天前
|
存储 分布式计算 Hadoop
大数据分析的工具
大数据是一个含义广泛的术语,是指数据集,如此庞大而复杂的,他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集自各种各样的来源:传感器,气候信息,公开的信息,如杂志,报纸,文章。大数据产生的其他例子包括购买交易记录,网络日志,病历,军事监控,视频和图像档案,及大型电子商务。
20 8
|
14天前
|
存储 大数据 数据挖掘
【数据新纪元】Apache Doris:重塑实时分析性能,解锁大数据处理新速度,引爆数据价值潜能!
【9月更文挑战第5天】Apache Doris以其卓越的性能、灵活的架构和高效的数据处理能力,正在重塑实时分析的性能极限,解锁大数据处理的新速度,引爆数据价值的无限潜能。在未来的发展中,我们有理由相信Apache Doris将继续引领数据处理的潮流,为企业提供更快速、更准确、更智能的数据洞察和决策支持。让我们携手并进,共同探索数据新纪元的无限可能!
60 11
|
19天前
|
存储 分布式计算 大数据
MaxCompute 数据分区与生命周期管理
【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。
51 1
|
21天前
|
大数据 机器人 数据挖掘
这个云ETL工具配合Python轻松实现大数据集分析,附案例
这个云ETL工具配合Python轻松实现大数据集分析,附案例
|
19天前
|
存储 分布式计算 数据处理
MaxCompute 的成本效益分析与优化策略
【8月更文第31天】随着云计算技术的发展,越来越多的企业选择将数据处理和分析任务迁移到云端。阿里云的 MaxCompute 是一款专为海量数据设计的大规模数据仓库平台,它不仅提供了强大的数据处理能力,还简化了数据管理的工作流程。然而,在享受这些便利的同时,企业也需要考虑如何有效地控制成本,确保资源得到最优利用。本文将探讨如何评估 MaxCompute 的使用成本,并提出一些优化策略以降低费用,提高资源利用率。
17 0
|
19天前
|
分布式计算 安全 大数据
MaxCompute 的安全性和数据隐私保护
【8月更文第31天】在当今数字化转型的时代背景下,企业越来越依赖于大数据分析来推动业务增长。与此同时,数据安全和隐私保护成为了不容忽视的关键问题。作为阿里巴巴集团推出的大数据处理平台,MaxCompute(原名 ODPS)致力于为企业提供高效、安全的数据处理解决方案。本文将探讨 MaxCompute 在数据安全方面的实践,包括数据加密、访问控制及合规性考虑等方面。
41 0
|
24天前
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
|
28天前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。
|
1月前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之ODPS数据怎么Merge到MySQL数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。

热门文章

最新文章