开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

dataworks中如何实现增量数据的同步?

已解决

dataworks中如何实现增量数据的同步?

展开
收起
爱喝咖啡嘿 2022-12-09 18:02:20 685 0
2 条回答
写回答
取消 提交回答
  • 推荐回答

    在数据源管理页面,单击左上角的图标,选择全部产品 > 数据集成。单击首页中的新建同步任务。在新建节点对话框中,输入节点名称并选择目标文件夹,单击提交。进入离线同步节点的配置页面,选择数据来源。 image.png 参数 描述 数据源 输入数据源的名称。 表 导出增量数据的表的名称。该表需要开启Stream,您可以在建表时开启,或使用UpdateTable接口开启。 开始时间 增量数据的时间范围(左闭右开)的左边界,格式为yyyymmddhh24miss,单位为毫秒。 结束时间 增量数据的时间范围(左闭右开)的右边界,格式为yyyymmddhh24miss,单位为毫秒。 状态表 用于记录状态的表的名称。 最大重试次数 从TableStore中读增量数据时,每次请求的最大重试次数,默认是30。 导出时序信息 是否导出时序信息,包括数据的写入时间等信息。选择数据去向。 image.png 参数 描述 数据源 输入配置的数据源名称。 表 选择需要同步的表。 分区信息 此处需同步的表是非分区表,所以无分区信息。 清理规则 空字符串作为null 默认值为否。字段映射。左侧的源头表字段和右侧的目标表字段为一一对应的关系。单击添加一行可以增加单个字段,鼠标放至需要删除的字段上,即可单击删除图标进行删除。 image.png

    通道控制 image.png

    单击工具栏中的保存图标。单击工具栏中的运行图标,运行之前需要配置自定义参数。——此答案整理自钉群“DataWorks交流群(答疑@机器人)”

    2022-12-12 12:03:12
    赞同 展开评论 打赏
  • Dataworks在官方的文档中提供了增量数据实时同步的方法,请参考链接image.png

    2022-12-10 23:53:19
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 热门讨论

    热门文章

    相关电子书

    更多
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载
    基于DataWorks数据服务构建疫情大屏-2020飞天大数据平台实战应用第一季 立即下载

    相关实验场景

    更多