DataWorks提供了数据开发模块,可以获取到标注位置的节点任务信息。首先,您需要登录DataWorks控制台,然后单击左侧导航栏的数据建模与开发 > 数据开发,在下拉框中选择对应工作空间后单击进入数据开发。在数据开发面板中,您可以双击打开相应节点的编辑页面,并单击右侧的调度配置,在节点上下文区域配置本节点输入参数和本节点输出参数。
对于赋值节点的使用,当您需要将上游节点任务的查询或输出结果提供给下游节点使用时,可以通过赋值节点实现。赋值节点支持ODPS SQL、SHELL和Python2三种赋值语言,将节点最后一条查询或输出结果自动赋值给节点自带的输出参数(outputs),以供赋值节点的下游节点引用。
此外,如果您有多个业务流程需要使用到一些重复的节点,可以考虑使用DataWorks的节点组功能。节点组用于将业务流程内复用率较高的节点进行组合,生成一个节点组。生成的节点组可在其他业务流程中直接引用,引用后该业务流程中即可快速批量克隆节点组内的节点,且克隆时节点组中各节点的配置信息保持不变。这样不仅可以提高您的工作效率,还可以使任务信息的管理更为集中和方便。
"当脏数据非常大的时候 日志里无法打印全 ,目前openapi只能拿到外层的runlog日志 还拿不到数据集成的detail log
https://help.aliyun.com/zh/dataworks/developer-reference/api-getinstancelog?spm=a2c4g.11186623.0.i10#doc-api-dataworks-public-GetInstanceLog,此回答整理自钉群“DataWorks交流群(答疑@机器人)”"
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。