MongoDB的“value too large to reduce”错误

简介:

在MongoDB下写了一个map/reduce程序,想针对海量数据按特征归类,因此设计中,reduce后的数据结构是下面这样的:

 
  1.     _id: "特征"
  2.     value: { data: ["内容1""内容2""内容3", ......] } 

在数据量不大的时候一切正常,当逐渐提高数据量时,比如到了5000万的量级时,出现了下面的13070错误:

 
  1. Web Dec 19 10:23:11 uncaught exception: map reduce failed: { 
  2.     "errmsg" : "exception: value too large to reduce"
  3.     "code" : 13070, 
  4.     "ok" : 0 

出现这个错误是由于reduce时的value太大了,我的reduce程序中,最终return的是一个数组,当reduce后这个数组过大(据说是超过8MB),就会导致reduce失败,查了查没有什么好的解决方案。目前暂时在reduce时发现数组过长就截断丢弃后面的数据,这样就不再报错了。

 




     本文转自 BoyTNT 51CTO博客,原文链接:http://blog.51cto.com/boytnt/1094026,如需转载请自行联系原作者


相关文章
|
数据库 NoSQL MongoDB
Mongodb中经常出现的错误(汇总)child process failed, exited with error number
异常处理汇总-服 务 器 http://www.cnblogs.com/dunitian/p/4522983.html 异常处理汇总-数据库系列  http://www.cnblogs.com/dunitian/p/4522990.
1681 0
|
存储 JSON 分布式计算
MongoDB:19-MongoDB-Map Reduce
MongoDB:19-MongoDB-Map Reduce
MongoDB:19-MongoDB-Map Reduce
|
NoSQL MongoDB
MongoDB服务无法启动,发生服务特定错误:100
问题:MongoDB服务无法启动,发生服务特定错误:100 原因:没有正常关闭mongod服务,导致mongod被锁 解决方案:进入db文件夹,删除mongod.
3879 0
|
分布式计算 NoSQL MongoDB
|
监控 NoSQL Windows
Windows安装MongoDB服务,提示错误1053:服务没有及时响应启动或控制请求问题答案
安装MongoDB服务,提示错误1053:服务没有及时响应启动或控制请求问题答案
30410 0

推荐镜像

更多