AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

DataWorks中PyODPS这个组件是否可以直接调用spark？

问题1:DataWorks中PyODPS这个组件是否可以直接调用spark？ 问题2:如果想用odps py可以实现吗，使用odps spark节点 怎么用第三方包

展开
收起
真的很搞笑 2023-06-11 08:27:28 71 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    需要使用odps spark节点 调用，可以参考看下 https://github.com/aliyun/MaxCompute-Spark/wiki/06.-%E5%BC%95%E7%94%A8%E5%A4%96%E9%83%A8%E6%96%87%E4%BB%B6%E9%97%AE%E9%A2%98，此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-06-11 08:38:38
    赞同 展开评论
问答分类：
分布式计算 DataWorks MaxCompute Spark Python 大数据开发治理平台 DataWorks
问答标签：
apache spark组件 大数据开发治理平台 DataWorks pyodps dataworks apache spark 大数据开发治理平台 DataWorks spark 大数据开发治理平台 DataWorks组件
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
Dataworks 里的 ODPS spark 节点访问不到 maxcompute 里的表
57
1
0
dataworks上开发pyodps任务，只有独享资源组才能使用第三方包吗？
75
1
0
DataWorks中pyodps支持使用类似Matplotlib的画图包吗，节点里能使用画图功能么？
66
1
0
DataWorks中pyodps这个工具可以写机器学习模型嘛？如何突破50m的限制？
76
1
0
dataworks可以开发spark streaming任务吗？
40
0
0
dataworks调用odps的spark中的pyspark代码报错找不到main函数什么情况啊？
63
1
0
DataWorks中pyodps 平替 WITH RECURSIVE怎么办？
47
0
0
DataWorks使用pyodps 改写 WTIH RECURSIVE怎么办？
57
1
0
DataWorks文档上这里有spark节点我的咋没有？
39
1
0
dataworks中pyodps代码发送结果到群webhook，发布到生产环境报错了，这个怎么解决？
47
1
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问

相关文章

  • Dataphin功能Tips系列（47）-支持通过Spark本地客户端提交Spark Batch任务
  • Dataphin功能Tips系列（48)-如何根据Hive SQL/Spark SQL的任务优先级指定YARN资源队列
  • 打破资源边界、告别资源浪费：ACK One 多集群Spark和AI作业调度
  • 【Azure Service Bus】分享使用 Python Service Bus SDK 输出SDK内操作日志
  • 微信基于 StarRocks 的实时因果推断实践

    • 热门讨论

    热门文章

  • DataWorks我该如何访问A项目安装了项目的package资源？
  • Dataphin和 Dataworks 有啥区别呢？
  • DataWorks failed: ODPS-0130071:[0,0] Semantic ana？
  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • 你好，DataWorks中怎么看是怎么收费的？
  • odps表可以设置冷存储吗？
  • dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
  • DataWorks生产节点今天总报：FAILED: 重跑就又可以？
  • DataWorks中ak 的 都加了管理员角色， 但仍然报 错？
  • 兄弟们啊，同步中DI、RI到底什么意思，是什么的缩写？
    • 展开全部
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • DataWorks售前咨询
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
  • 大数据AI一体化开发再加速：DataWorks 支持GPU类型资源
  • DataWorks数据集成离线增量同步配置讲解
  • DataWorks重磅推出Serverless资源组，实现低成本灵活付费和动态平滑扩缩容
  • 限时优惠体验！DataWorks数据治理中心全新升级为数据资产治理
  • DataWorks X DeepSeek : 用AI实现数据开发治理！
  • 大数据&AI的16种可能，2020阿里云客户最佳实践合集下载
    • 展开全部
    还有其他疑问?
    咨询AI助理