问题一:DataWorks数据集成时报query timeout,这个查询时间限制在哪设置和查看?
DataWorks数据集成时报query timeout,这个查询时间限制在哪设置和查看?
参考回答:
检查下日志 是不是数据库报错了呢
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/510578?spm=5176.8068049.0.0.77566d19PXNmxo
问题二:DataWorks数据集成线上测试实例会写入数据吗?
DataWorks数据集成线上测试实例会写入数据吗?
参考回答:
以关系数据库jdbcUrl为例(其他数据源如hdfs、redis、mogodb对应连接地址约束等价), ##本地IDC:
有公网:数据源支持测试连通性,需要使用JdbcUrl模式添加数据源。如果您使用JdbcUrl添加数据源,需要确保对应执行资源组对数据源的网络访问能力限制(网络可达性和白名单)。如果使用公网地址,请检查公网收费限制,详情请参见数据集成公网流量计费项。 无公网: 数据源不支持测试连通性,并且需要通过脚本模式配置任务。支持通过JdbcUrl模式添加数据源,如果您已打通本地IDC和专有网络,请购买独享数据集成资源后,提交工单进行处理。您也可以升级至DataWorks专业版,通过数据集成自定义资源组同步任务。ECS自建数据源:
有公网:支持测试连通性,需要使用JdbcUrl模式添加数据源。如果您使用JdbcUrl添加数据源,需要确保对应执行资源组对数据源的网络访问能力限制(网络可达性和白名单)。如果使用公网地址,请检查公网收费限制,详情请参见数据集成公网流量计费项。 经典网络: 如果和DataWorks在相同的区域,支持测试连通性和通过JdbcUrl模式添加数据源,可以直接使用默认资源组运行,该方式不推荐使用。 如果和DataWorks在不同的区域,则不支持测试连通性。支持通过JdbcUrl模式添加数据源,需要使用数据集成自定义资源组同步任务,且需要通过脚本模式配置任务,详情请参见通过脚本模式配置任务。 经典网络ECS上自建的数据源,不保证默认资源组网络可通,建议您使用数据集成自定义资源组同步任务。如果使用数据集成自定义资源组或网络不通,需要通过脚本模式配置任务。 建议您迁移数据源至专有网络。 专有网络VPC内部地址:不支持测试连通性。支持通过JdbcUrl模式添加数据源,需要使用数据集成自定义资源组或独享数据集成资源同步任务,且需要通过脚本模式配置任务。阿里云产品:
实例模式添加数据源: RDS(MySQL、PostgreSQL和SQLServer)、POLARDB、DRDS、HybridDB for MySQL、AnalyticDB for PostgreSQL和AnalyticDB for MySQL3.0等实例模式添加的数据源,DataWorks会根据任务执行情况执行环境,自动下发合适可用的链接地址,支持测试连通性和使用默认资源组同步任务。 Redis、MongoDB和AnalyticDB for MySQL2.0支持实例模式添加数据源,不支持反向VPC和测试连通性,需要使用数据集成自定义资源组或独享数据集成资源同步任务,需要使用脚本模式配置任务。 有公网:支持测试连通性;支持测试连通性,需要使用JdbcUrl模式添加数据源。建议优先使用实例模式添加数据源。如果您使用JdbcUrl添加数据源,需要确保对应执行资源组对数据源的网络访问能力限制(网络可达性和白名单)。如果使用公网地址,请检查公网收费限制。 经典网络 如果数据源和DataWorks在相同的区域,支持测试连通性,需要使用JdbcUrl模式添加数据源。 如果数据源和DataWorks在不同的区域,则不支持测试连通性。支持通过JdbcUrl模式添加数据源,需要使用数据集成自定义资源组同步任务,且需要通过脚本模式配置任务。 建议优先使用实例模式添加数据源。 专有网络VPC内部地址:不支持测试连通性,支持通过JdbcUrl模式添加数据源。需要使用数据集成自定义资源组或独享数据集成资源同步任务,且需要通过脚本模式配置任务。建议优先使用实例模式添加数据源。
例如,MaxCompute、OSS和LogHub等其它区域中心化服务的产品,包括3种类型的endpoint,您根据自身需求进行选择即可。
##注意:
HDFS、Redis和MongoDB等其它数据源对应连接地址的约束和关系型数据库一致。 选择数据源连接地址时,需要和任务配置模式(包括向导模式和脚本模式)、任务实际执行资源组(包括默认资源组、自定义资源组和独享数据集成资源组)配合,让运行任务的资源组可以访问数据源。 由于数据存储的特性,建议HBase数据源和HDFS数据源使用自定义资源组或独享数据集成资源组。 金融云的数据源支持网络连通和通过实例模式添加数据源。如果网络不通,请使用自定义资源组同步任务。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/510383?spm=5176.8068049.0.0.77566d19PXNmxo
问题三:介绍一下DataWorks数据集成资源是什么?
介绍一下DataWorks数据集成资源是什么?
参考回答:
资源准备与规划: 使用实时数据同步任务同步数据时,当前仅支持使用独享数据集成资源组。因此,在进行数据同步前,您需要购买独享数据集成资源组,并将资源组添加至DataWorks中,便于后续同步任务使用。 独享数据集成资源组的详细介绍可参见独享数据集成资源。网络联通: 独享数据集成资源组本质上为一组资源实例,购买添加完成后的初始状态下,与其他产品的网络并不联通,因此您需要为独享数据集成资源组绑定网络环境,为后续与数据源进行数据同步做好网络联通的准备。 https://help.aliyun.com/document_detail/203560.html
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/510370?spm=5176.8068049.0.0.77566d19PXNmxo
问题四:您好,咨询下dataworks数据集成,源系统的是HANA,字段类型是decimal(30,10)?
您好,咨询下dataworks数据集成,源系统的是HANA,字段类型是decimal(30,10),目标是ADB For mysql,字段也是这个,近几天发现当字段值为0的时候,传过来的为0E-10,写入就报脏数据错误了,这个有办法处理吗
您好,这个问题请帮忙看看,昨天发了日志链接了 @DataWorks官方支持(DataWorks官方支持)
参考回答:
同步往mysql写,mysql报错了,可以看下报错字段是不是可以正常写入mysql呢
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/510332?spm=5176.8068049.0.0.77566d19PXNmxo
问题五:使用DataWorks数据集成从MySQL导入数据到GDB配置同步任务脚本?
使用DataWorks数据集成从MySQL导入数据到GDB配置同步任务脚本?
参考回答:
在DataWorks对应工作空间(相同区域)的数据开发环境,创建离线同步节点,创建方法请参见创建离线同步节点。
在选择数据源>数据来源步骤选择数据源为MySQL和您配置好的MySQL数据源,以及需要导入到GDB中的数据库表。在选择数据源>数据去向步骤选择GDB和您配置好的GDB数据源。目前GDB只支持通过脚本模式配置任务,单击工具栏中的转换脚本再编辑同步任务参数。以下示例配置是同步数据源mysql_loader中数据表comment到GDB数据源gdb_loader中,将表数据转换成GDB的点,表中部分列映射为点的属性。 {"type": "job","steps": [{"stepType": "mysql", // 数据来源类型"parameter": {"datasource": "mysql_loader", // mysql数据源"column": [ // 读取的数据表列名"node_id","node_label","m_id","imagefile","creationDate"],"connection": [ // 连接信息{"datasource": "mysql_loader","table": [ // 读取的数据库表"post"]}],"where": "","splitPk": "","encoding": "UTF-8"},"name": "Reader","category": "reader"},{"stepType": "gdb", // 数据去向类型"parameter": {"datasource": "gdb_loader", // gdb数据源"session": true, // 使用GDB的批量事务模式"column": [ // 到GDB数据的映射规则{"columnType": "primaryKey", // 主键ID映射"name": "id","type": "string", // 主键值类型,配置为非string类型会导致异常。"value": "#{0}" // 主键映射列序号},{"columnType": "vertexProperty https://help.aliyun.com/document_detail/179044.html
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/509954?spm=5176.8068049.0.0.77566d19PXNmxo