开发者社区> 问答> 正文

倾斜Join优化对Shuffle框架提出了什么新的需求?

倾斜Join优化对Shuffle框架提出了什么新的需求?

展开
收起
不吃核桃 2024-08-19 15:50:58 7 0
1 条回答
写回答
取消 提交回答
  • 倾斜Join优化对Shuffle框架提出的新需求是ShuffleReader要能支持范围MapId。综合Partition合并优化对范围Partition的需求,ShuffleReader的接口演化为支持多个参数的方法,如代码中所示:

    scala
        def getReader[K, C]( 
        handle: ShuffleHandle, 
        startMapIndex: Int, 
        endMapIndex: Int, 
        startPartition: Int, 
        endPartition: Int, 
        context: TaskContext, 
        metrics: ShuffleReadMetricsReporter): ShuffleReader[K, C]
    
    2024-08-19 20:15:52
    赞同 1 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载