DataWorks中如何使用maxcompute的数据集成功能?
在DataWorks中,你可以使用MaxCompute的数据集成功能来创建数据集,以便在数据开发和数据分析任务中使用。下面是使用MaxCompute数据集成功能的步骤:
进入DataWorks控制台,选择项目并进入项目首页。
在项目首页,点击左侧导航栏中的"数据开发",然后选择需要创建数据集的工作空间。
在工作空间中,点击左上角的"新建数据集"按钮。
在数据集创建页面,选择数据源为MaxCompute。
配置数据集的基本信息,包括数据集名称、描述等。
在数据集配置页面,选择MaxCompute表作为数据集的来源。你可以选择已存在的MaxCompute表,或者使用SQL语句来定义数据集的逻辑。
如果选择使用SQL语句定义数据集,可以在"SQL查询编辑器"中编写SQL语句,对MaxCompute表进行筛选、过滤、聚合等操作,并为数据集定义列名和数据类型。
配置完数据集的来源后,点击"下一步"。
在"数据集预览"页面,可以预览数据集的数据,并进行必要的数据预处理操作。
点击"创建数据集"完成数据集的创建过程。
在DataWorks中,可以使用MaxCompute的数据集(Table/View)功能来方便地管理和使用数据。以下是使用MaxCompute数据集的一般步骤:
创建数据集:登录DataWorks控制台,并进入相应的项目空间。在项目空间中,选择“开发”模块,然后点击左侧导航栏中的“数据集”选项。在数据集页面上,点击“新建数据集”按钮,按照提示设置数据集的相关信息,包括名称、描述、表格类型等。选择所需的数据源(MaxCompute)并确定。
配置数据集规则:在创建数据集后,可以通过配置数据集规则来定义数据集的内容。根据实际需求,选择要包含的数据表或视图,并设置过滤条件、排序方式等。
使用数据集:在任务或工作流程中,可以直接引用和使用已创建的数据集。在相应的节点中,选择数据集作为输入源或输出目标,以进行数据处理操作。
FROM
子句引用数据集,并使用其中的数据进行SQL操作。ODS的数据需要由各数据源系统同步到MaxCompute,才能用于进一步的数据开发。本教程建议您使用DataWorks数据集成功能完成数据同步,详情请参见概述。在使用数据集成的过程中,建议您遵循以下规范:一个系统的源表只允许同步到MaxCompute一次,保持表结构的一致性。数据集成仅用于离线全量数据同步,实时增量数据同步需要您使用数据传输服务DTS实现,详情请参见数据传输服务DTS。数据集成全量同步的数据直接进入全量表的当日分区。ODS层的表建议以统计日期及时间分区表的方式存储,便于管理数据的存储成本和策略控制。数据集成可以自适应处理源系统字段的变更:如果源系统字段的目标表在MaxCompute上不存在,可以由数据集成自动添加不存在的表字段。如果目标表的字段在源系统不存在,数据集成填充NULL。
https://help.aliyun.com/document_detail/154247.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。