开发者社区> 问答> 正文

在供应链核算场景下,为什么需要设计专门的Spark任务管理模块?

在供应链核算场景下,为什么需要设计专门的Spark任务管理模块?

展开
收起
不吃核桃 2024-07-29 15:49:59 28 0
1 条回答
写回答
取消 提交回答
  • 在供应链核算场景下,由于需要支持每天大量(600+)的Spark实例运行,并满足核算的完整性、准确性和及时性要求,同时考虑到资源有限且与ODPS任务共享项目空间资源,因此需要设计专门的Spark任务管理模块来负责Spark任务的生命周期管理、与核算任务和Spark Session的交互等。

    2024-07-29 16:15:59
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载