AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

DataWorks中PyODPS这个组件是否可以直接调用spark？

问题1:DataWorks中PyODPS这个组件是否可以直接调用spark？ 问题2:如果想用odps py可以实现吗，使用odps spark节点 怎么用第三方包

展开
收起
真的很搞笑 2023-06-11 08:27:28 71 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    需要使用odps spark节点 调用，可以参考看下 https://github.com/aliyun/MaxCompute-Spark/wiki/06.-%E5%BC%95%E7%94%A8%E5%A4%96%E9%83%A8%E6%96%87%E4%BB%B6%E9%97%AE%E9%A2%98，此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-06-11 08:38:38
    赞同 展开评论
问答分类：
分布式计算 DataWorks MaxCompute Spark Python 大数据开发治理平台 DataWorks
问答标签：
apache spark组件 大数据开发治理平台 DataWorks pyodps dataworks apache spark 大数据开发治理平台 DataWorks spark 大数据开发治理平台 DataWorks组件
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
Dataworks 里的 ODPS spark 节点访问不到 maxcompute 里的表
55
1
0
DataWorks中PyODPS 要去哪里下载本地的安装包啊？
94
1
0
dataworks上开发pyodps任务，只有独享资源组才能使用第三方包吗？
72
1
0
DataWorks中pyodps支持使用类似Matplotlib的画图包吗，节点里能使用画图功能么？
63
1
0
DataWorks中pyodps这个工具可以写机器学习模型嘛？如何突破50m的限制？
75
1
0
在Dataworks中有个pyodps任务每天在正常跑数据，现在想克隆一份文件代码按小时跑？
55
1
0
dataworks可以开发spark streaming任务吗？
37
0
0
dataworks调用odps的spark中的pyspark代码报错找不到main函数什么情况啊？
61
1
0
DataWorks中pyodps 平替 WITH RECURSIVE怎么办？
45
0
0
DataWorks使用pyodps 改写 WTIH RECURSIVE怎么办？
56
1
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问

相关文章

  • 《告别低效！AI让DataWorks数据调度策略焕新升级》
  • 《从0到1：DataWorks搭建人工智能数据湖技术要点全解析》
  • 《人工智能赋能DataWorks：开启自动化运维新篇章》
  • 《AI牵手DataWorks，实时数据分析“一路狂飙”》
  • 《从低效到高效，AI重塑DataWorks数据存储架构》

    • 热门讨论

    热门文章

  • DataWorks我该如何访问A项目安装了项目的package资源？
  • DataWorks undefined requestID: undefined？
  • DataWorks当前操作被显示拒绝，请联系资源目录管理员授权怎么办？
  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • 你好，DataWorks中怎么看是怎么收费的？
  • dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
  • DataWorks生产节点今天总报：FAILED: 重跑就又可以？
  • Dataphin和 Dataworks 有啥区别呢？
  • DataWorks中ak 的 都加了管理员角色， 但仍然报 错？
  • odps表可以设置冷存储吗？
    • 展开全部
  • DataWorks售前咨询
  • 云上一指禅：大数据产品DataWorks每日问答
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • 【2023云栖】田奇铣：大模型驱动DataWorks数据开发治理平台智能化升级
  • 限时优惠体验！DataWorks数据治理中心全新升级为数据资产治理
  • 大数据&AI的16种可能，2020阿里云客户最佳实践合集下载
  • DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
  • DataWorks重磅推出Serverless资源组，实现低成本灵活付费和动态平滑扩缩容
  • 大数据AI一体化开发再加速：DataWorks 支持GPU类型资源
    • 展开全部
    还有其他疑问?
    咨询AI助理