问题一:咨询一下,dataworks数据集成中遇到的一个同库分表的同步问题,数据源是mysql, 表是按月生成的, 比如xxx_202303,一个月新增一张表,这种应该怎么配置离线同步任务啊,似乎脚本模式里也只能按指定范围来配置?
咨询一下,dataworks数据集成中遇到的一个同库分表的同步问题,数据源是mysql, 表是按月生成的, 比如xxx_202303,一个月新增一张表,这种应该怎么配置离线同步任务啊,似乎脚本模式里也只能按指定范围来配置?
参考回答:
建议是将同步任务转脚本 表名用 xxx_${参数名} 来代替 配置好日期的调度参数 上线以后参数会替换成具体的日期值拼接成表名。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/496308?spm=5176.8068049.0.0.77566d19PXNmxo
问题二:如何操作dataworks数据集成新增数据源?
如何操作dataworks数据集成新增数据源?
参考回答:
登录DataWorks控制台,单击目标项目栏中的进入数据集成。在数据集成页面,单击左侧导航栏的数据源,然后单击新增数据源。在新增数据源页面,选择HDFS。在新增HDFS数据源页面,按照页面提示进行参数配置。//help-static-aliyun-doc.aliyuncs.com/assets/img/zh-CN/0766944851/p85488.jpg参数 说明 数据源名称 数据源名称必须包含字母、数字、下划线,但不能以数字和下划线开头。 数据源描述 对数据源进行简单描述,不得超过80个字符。 DefaultFS nameNode节点地址,格式为hdfs://ServerIP:Port。单击测试连通性。测试连通性通过后,单击完成。测试连通性说明经典网络ECS上自建的数据源,建议使用数据集成自定义资源组,默认资源组不保证网络可通。专有网络目前不支持数据源连通性测试,直接单击完成。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/492813?spm=5176.8068049.0.0.77566d19PXNmxo
问题三:如何使用DataWorks数据集成从MySQL导入数据到GDB配置同步任务脚本?
如何使用DataWorks数据集成从MySQL导入数据到GDB配置同步任务脚本?
参考回答:
在DataWorks对应工作空间(相同区域)的数据开发环境,创建离线同步节点,创建方法请参见创建离线同步节点。在选择数据源>数据来源步骤选择数据源为MySQL和您配置好的MySQL数据源,以及需要导入到GDB中的数据库表。
在选择数据源>数据去向步骤选择GDB和您配置好的GDB数据源。目前GDB只支持通过脚本模式配置任务,单击工具栏中的转换脚本再编辑同步任务参数。以下示例配置是同步数据源mysql_loader中数据表comment到GDB数据源gdb_loader中,将表数据转换成GDB的点,表中部分列映射为点的属性。 {"type": "job","steps": [{"stepType": "mysql", // 数据来源类型"parameter": {"datasource": "mysql_loader", // mysql数据源"column": [ // 读取的数据表列名"node_id","node_label","m_id","imagefile","creationDate"],"connection": [ // 连接信息{"datasource": "mysql_loader","table": [ // 读取的数据库表"post"]}],"where": "","splitPk": "","encoding": "UTF-8"},"name": "Reader","category": "reader"},{"stepType": "gdb", // 数据去向类型"parameter": {"datasource": "gdb_loader", // gdb数据源"session": true, // 使用GDB的批量事务模式"column": [ // 到GDB数据的映射规则{"columnType": "primaryKey", // 主键ID映射"name": "id","type": "string", // 主键值类型,配置为非string类型会导致异常。"value": "#{0}" // 主键映射列序号},{"columnType": "vertexProperty
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/492802?spm=5176.8068049.0.0.77566d19PXNmxo
问题四:DataWorks数据集成这块可以切换成原来的那个版本样式吗?
DataWorks数据集成这块可以切换成原来的那个版本样式吗?现在这种页面配置,用着不舒服
参考回答:
新版的可以将网络问题 提前在开发态的时候就发现和规避 避免在运维中心才发现哈
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/491486?spm=5176.8068049.0.0.77566d19PXNmxo
问题五:DataWorks数据集成可以跨业务流程引用表吗?
DataWorks数据集成可以跨业务流程引用表吗?
参考回答:
可以的
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/491141?spm=5176.8068049.0.0.77566d19PXNmxo