开发者社区> 问答> 正文

Partition合并的目的是什么,它对Shuffle框架有什么具体的需求?

Partition合并的目的是什么,它对Shuffle框架有什么具体的需求?

展开
收起
不吃核桃 2024-08-19 15:50:59 27 0
1 条回答
写回答
取消 提交回答
  • Partition合并的目的是尽量让reducer处理的数据量适中且均匀。它对Shuffle框架的具体需求是ShuffleReader需要支持范围Partition,如代码中所示:

    scala
        def getReader[K, C]( 
        handle: ShuffleHandle, 
        startPartition: Int, 
        endPartition: Int, 
        context: TaskContext): ShuffleReader[K, C]
    
    2024-08-19 20:15:53
    赞同 3 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载