开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

问:基于什么文件读取数据 ID=JSvUPH4B1r73GMJAujlh INDEX=1

问:基于什么文件读取数据 ID=JSvUPH4B1r73GMJAujlh INDEX=1

展开
收起
十一0204 2023-04-05 09:09:12 164 0
1 条回答
写回答
取消 提交回答
  • 意中人就是我呀!

    "使用脚本开发的详情请参见通过脚本模式配置任务。说明 实际运行时,请删除下述代码中的注释。您可以基于HDFS文件和Hive JDBC读取数据:基于HDFS文件读取数据 {""type"": ""job"",""steps"": [{""stepType"": ""hive"",""parameter"": {""partition"": ""pt1=a,pt2=b,pt3=c"", //分区信息""datasource"": ""hive_not_ha_"", //数据源名称""column"": [ //需要读取的字段列""id"",""pt2"",""pt1""],""readMode"": ""hdfs"", //读取方式""table"": ""part_table_1""},""name"": ""Reader"",""category"": ""reader""},{""stepType"": ""hive"",""parameter"": {},""name"": ""Writer"",""category"": ""writer""}],""version"": ""2.0"",""order"": {""hops"": [{""from"": ""Reader"",""to"": ""Writer""}]},""setting"": {""errorLimit"": {""record"": """" //错误记录数},""speed"": {""concurrent"": 2, //作业并发数""throttle"": true,//当throttle值为flase时,mbps参数不生效,表示不限流;当throttle值为true时,表示限流。""mbps"":""12""//限流}}}基于Hive JDBC读取数据 {""type"": ""job"",""steps"": [{""stepType"": ""hive"",""parameter"": {""querySql"": ""select id,name,age from part_table_1 where pt2='B'"",""datasource"": ""hive_not_ha_"", //数据源名称""column"": [ //需要读取的字段列""id"",""name"",""age""],""where"": """",""table"": ""part_table_1"",""readMode"": ""jdbc"" //读取方式},""name"": ""Reader"",""category"": ""reader""} https://help.aliyun.com/document_detail/143413.html 此回答整理自钉群“DataWorks交流群(答疑@机器人)”"

    2023-04-05 12:59:39
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载