开发者社区> 问答> 正文

求助 solr 分批索引:报错

各位大神,由于我数据库中的数据量比较大,不可能一次全部读出来进行索引,所以打算每次读取10000条数据进行索引,问题就是在对第一个10000条数据进行索引后,再对第2个10000条进行索引时,如何在之前的索引的上进行增加而不会覆盖了呢(lucene中用IndexWriterConfig.setOpenMode(OpenMode.APPEND)可以实现这个功能,但不知solr中该如何使用)

展开
收起
kun坤 2020-06-07 14:22:56 658 0
1 条回答
写回答
取消 提交回答
  • SQL 写个分页,前10000条 直接导入。后10000条通过增量导。
    ######@java_大猫 我找到解决方法了,只要主键不一样,就是新增,谢谢你了######回复 @tflyy14 : 他有增量的配置。但是 增量 的前提 是 你数据的 update 时间必须大雨 你第一次 导入的 时间。######我就是想知道如何增量呢######为什么不用solr的mysql呢,我的200万的数据没多久就完事了,不需要写程序的啊######你200万的数据是一次性导出来的吗,为什么我10万条的数据(有一个大字段)导出来时,报内存溢出呢,求指教######因为每一条数据对应了一个本地文件,都要进行索引,所以不能用dataimport功能

    2020-06-07 14:23:00
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Phoenix 全局索引原理与实践 立即下载
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
基于HBase的海量数据查询与检索解析_游骐_202105_v3 立即下载