开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

概述ETL解决方案的流程是什么?

概述ETL解决方案的流程是什么?

展开
收起
游客lmkkns5ck6auu 2022-07-28 16:32:46 500 0
1 条回答
写回答
取消 提交回答
  • 通过归因分析模型,分析不同渠道下的NewYork City快餐店的人流量数据,量化影响人们去快餐店消费的主要活动因子。

    1)首先,从不同的媒体网站,获取分析需要的人流量的数据,模拟SafeGraph月度的人流量数,将数据存储到Bronze层。然后,进行数据清洗,将每月的时间序列数据,每日访问次数,存储到Silver层,将影响快餐店人流量的数据汇总至Gold层,进行进一步校验,确定是否满足要求。

    2)接下来,对相关字段进行筛选,筛选出需要的字段,将店浦每日访问的人流量展示出来。例如数据是8月店浦的人流量,如果进行机器学习模型训练,还需要引入不同快餐店的人流量数据,来丰富该数据工程。 为了丰富数据工程,数据工程师创建了赛百味的fastfood数据集,模拟广告投放、社交媒体、门户网站的流量参数,将人流量的具体情况默认到这个food traffic表中。

    3)通过调用谷歌的GoogLe Trends API,来丰富food traffic的数据。然后,将聚合后的数据写入delta gold table里,完成数据的ETL工作。

    以上内容摘自《Databricks数据洞悉》电子书,点击https://developer.aliyun.com/topic/download?id=8545可下载完整版

    2022-07-29 10:40:02
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
基于streaming构建统一的数据处理引擎的挑战与实践 立即下载
MaxCompute基于BigBench标准的最新测试进展 立即下载
DataWorks高级功能场景化案例分享 立即下载