开发者社区> 问答> 正文

MapReduce在Reduce阶段该如何优化方法呢?

MapReduce在Reduce阶段该如何优化方法呢?

展开
收起
游客ydhxr2xydmgpo 2021-12-12 20:59:55 813 0
1 条回答
写回答
取消 提交回答
  • 1.合理设置Map和Reduce数:两个都不能设置太少,也不能设置太多。

    2.设置Map、Reduce共存:调整slowstart.completedmaps参数,使Map运行到一定程度后,Reduce也开始运行,减少Reduce的等待时间。

    3.规避使用Reduce。

    4.合理设置Reduce端的Buffer。

    2021-12-12 21:04:04
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
基于E-MapReduce梨视频推荐系统 立即下载
大数据解决方案构建详解 以阿里云E-MapReduce为例 立即下载
阿里云E-MapReduce 立即下载