FlinkSql创建Kafka source 消费数据写到hive表作为ods层，若还要建立该咋办？
FlinkSql创建Kafka source 消费数据写到hive表作为ods层，如果还要建立dwd层数据是用flink 读hive表转换成ods，还是在创建一个Kafka source的表再消费一次做处理写到hive dwd表呢？
展开
收起
1
条回答
写回答
写回答
-
发表文章、提出问题、分享经验、结交志同道合的朋友可以试试这两种方案：
-
使用 Flink 读取 Hive 表数据，进行转换：通过使用 Flink Table API 或者 Flink SQL，可以直接从 Hive 表读取数据，并对数据进行转换操作，然后将转换后的数据写入到 Hive DWD 表中。
-
创建一个 Kafka source 的表再消费一次：在 Flink SQL 中，可以创建一个新的 Kafka source 表，并消费 ODS 层 Kafka 的数据，然后对数据进行处理和转换，最后将转换后的数据写入到 Hive DWD 表中
2023-03-21 18:19:12赞同 展开评论 打赏 -
问答地址：
开发者社区
>
大数据与机器学习
>
大数据开发治理DataWorks
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。
热门讨论
热门文章
dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
2868
数据来源：com.alibaba.fastjson.JSONException: syntax er
5762
请教一下DataWorks，doris和starRocks 选型，选哪个？
1601
DataWorks跑sql报错ODPS-0121145:Data overflow这是啥？
537
Dataphin和 Dataworks 有啥区别呢？
2006
请问 Argument list too long怎么解决？
1518
DataWorks表管理中，如何设置 set odps.sql.decimal.odps2？
681
DataWorks建表语句中 lifecycle 什么意思？像这个，版本对比只有这个更新时间变了!
616
报错信息：invalid jdbc url, DatabaseName not configured
1099
离线同步报错Communications link failure，该如何处理？
1075
展开全部
限时优惠体验！DataWorks数据治理中心全新升级为数据资产治理
191
DataWorks售前咨询
8790
DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
313
大数据&AI的16种可能，2020阿里云客户最佳实践合集下载
72935
数据中台的智能进化—阿里巴巴十二年数据平台发展历程
9274
DataWorks产品使用合集之在DataWorks数据质量中，判断订阅成功的标准如何解决
109
2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
28033
【全新系列】DataWorks百问百答
28488
DataWorks数据集成离线增量同步配置讲解
4085
DataWorks重磅推出Serverless资源组，实现低成本灵活付费和动态平滑扩缩容
54816
展开全部
