聊聊非关系型数据库MongoDB索引

本文涉及的产品
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
云原生数据库 PolarDB MySQL 版,通用型 2核4GB 50GB
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
简介: 聊聊非关系型数据库MongoDB索引


今天是1024程序员节和大家简单聊下Mongo数据库的索引。

Mongo索引是基于B-tree,存储在一个易于遍历读取的数据集合中,它是对数据库表中一列或多列的值进行排序的一种结构。

数据库的索引和我们书籍目录相似,有了索引,我们不需要翻阅整本书,只需要查看目录就知道我们要的内容在哪儿,并且直接定位到,这种方式能大大提高我们的查找效率。


聚个例子

为了让大家更直观了解,我基于mongo3.6简单插入了1百万条数据进去,通过explain来进行分析查询情况。

scanv_rs:PRIMARY> db.users.count()
1000000
scanv_rs:PRIMARY> db.users.ensureIndex({"username": 1})
创建索引之后
scanv_rs:PRIMARY> db.users.find({"username": 'user10001'}).explain()
{
    "queryPlanner" : {
        "plannerVersion" : 1,
        "namespace" : "test.users",
        "indexFilterSet" : false,
        "parsedQuery" : {
            "username" : {
                "$eq" : "user10001"
            }
        },
        "winningPlan" : {
            "stage" : "FETCH",  # 通过返回index位置检索文档
            "inputStage" : {
                "stage" : "IXSCAN", # 索引查找,没有建立索引就是COLLSCAN
                "keyPattern" : {
                    "username" : 1
                },
                "indexName" : "username_1", # 索引名字
                "isMultiKey" : false,  # 建立在数组上,这儿是true
                "multiKeyPaths" : {
                    "username" : [ ]
                },
                "isUnique" : false,
                "isSparse" : false,
                "isPartial" : false,
                "indexVersion" : 2,
                "direction" : "forward",
                "indexBounds" : {
                    "username" : [
                        "[\"user10001\", \"user10001\"]"
                    ]
                }
            }
        },
        "rejectedPlans" : [ ]
    },
    }
}
# 有部分删减
scanv_rs:PRIMARY>db.users.find({"username":'user10001'}).explain('executionStats')
这里就不进一步展示了。


上面最后语句执行的结果这里就不展示了,结果就是在1000000条数据,"executionTimeMillis" 字段值建立前花费1450ms,建立后花费2ms, 相差百倍,totalDocsExamined 一个建立索引前全文扫描1000000条,建立后只有1条。

大家有兴趣可以自行对比一下。从上面我们可以看到索引的威力。


索引有哪几种?

简单说完索引之后,我们再来聊下索引的分类,索引主要分为:唯一索引和稀疏索引。

唯一索引可以确保集合的每一个文档的指定健都有唯一值。


举个例子,我们要在集合里面建立username索引,通过这种方式可以确保username在不同的文档里面拥有的username是唯一的(其实我们常用_id索引也是唯一索引)

db.yourcollection.ensureIndex({"username":1}, {"unique": true})

如果在上面的集合中添加相同username数据就会导致失败 E11000 dumplicate key error…


我们经常在集合上创建索引的时候会碰到上面那个错误,原因就是我们集合里面已经有了重复的数据。

碰到这种情况,通常的方式是

  1. 先找出重复的数据进行清理掉,再重建(线上),比如通过聚合
  2. 使用dropDups简单粗暴处理

通过dropDups的方式,在创建索引的时候加上,可以强制性建立唯一索引,遇到重复的值,第一个保留,其他进行删掉。


db.yourcollection.ensureIndex({"username":1}, {"unique": true, "dropDups": true})


第二种方式通常用在开发测试环境中,线上环境请注意。

说完唯一索引,我们再来了解下稀疏索引。

由于唯一索引会把null看做值,所以无法将多个缺少唯一索引中的健的文档插入到集合中。

这个时候我们可以通过创建稀疏索引的方式来进行,一个值可存在可不存在,如果存在就必须是唯一的。我们只需要添加一个spare选项就能创建稀疏索引。

比如我们要建立一个可选的姓名,如果提供了姓名,那么它的值必须是唯一的。

db.yourcollection.ensureIndex({'username': 1}, {'unique': true, 'sparse': true})

上面是单一健索引,其实我们还有基于多个健的复合索引,全文索引,地理空间索引,由于篇幅有限,这里面我们就先不深入进去。


怎么建立索引?

介绍分类之后,我们聊聊怎么建立索引,新建索引是一件费时费资源的事情,默认情况索引创建会阻塞对数据库的读写请求,一直到索引创建完成。

如果希望创建所以任然能处理读写请求,创建时我们需要指定background参数。

比如在单机服务器上我们可以加上background 为True。

db.yourcollection.ensureIndex({'username': 1}, {background: true})

这种方式虽然会消耗比较长的时间,但是不会锁定数据库,从而保证其他操作的运行。

同样在数据量小的集合的副本级上面我们也能这样做,在主节点上建立索引,然后同步到备份节点上面。

但是在数据量大的集合我们需要拆分每个节点来进行建立索引,避免索引期间所有副本级无法正常工作,导致出现问题。

拆分从节点建立索引步骤如下:

  1. 关闭一个从节点A,独立启动
  2. 在这个从节点A建立索引
  3. 重新将A加入副本级
  4. 重复上面三个步奏

对于主节点我们可以进行故障转移为从节点或者直接进行建立索引(对性能有一定影响),通过上面的方式就能大大提高我们建立索引安全稳定性。

我曾经就碰到过有同学没有拆分执行就建立索引的情况,导致几台DB节点打满,无法工作,大家需要注意下,如果由于环境因素做不到,那么我们需要找DB空闲时间进行上述操作。


何时用索引?

虽然绝大多数场景,我们都必须要有索引才能提高效率。

但有时候我们需要考虑是否真的有必要使用索引,因为使用索引需要进行两次查找,一次查找索引条目,一次根据索引指针查找相应的文档,而全表扫描只需要一次查找过程。

下面我们来对比一下,索引适用与不适用情况。

image.png

图片从上面图我们知道索引适合,集合大,文档大,选择性查询情况,不适合与之相反的集合小,文档小,非选择性查询的情况。


几点建议

关于索引的一些建议:

  • 学会使用explain进行分析,对比索引和非索引区别,检索条数,消耗毫秒数等
  • 关注读写比率,因为如果应用写多读少 ,添加索引会影响写入性能
  • 在索引基数高的地方建立索引(比如邮箱,用户名,而不是性别)
  • $or 查询是两次独立查询拼接而成,效率没有使用 $IN的高
  • $ne 或者 $nin 操作在索引上是无效的
  • 设计多个字段索引时,先用精确匹配查询,然后再用范围匹配(比如y>10&&y<100)的字段




相关实践学习
MongoDB数据库入门
MongoDB数据库入门实验。
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。 &nbsp; 相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
相关文章
|
1月前
|
数据库 索引
深入探索数据库索引技术:回表与索引下推解析
【10月更文挑战第15天】在数据库查询优化的领域中,回表和索引下推是两个核心概念,它们对于提高查询性能至关重要。本文将详细解释这两个术语,并探讨它们在数据库操作中的作用和影响。
50 3
|
1月前
|
数据库 索引
深入理解数据库索引技术:回表与索引下推详解
【10月更文挑战第23天】 在数据库查询性能优化中,索引的使用是提升查询效率的关键。然而,并非所有的索引都能直接加速查询。本文将深入探讨两个重要的数据库索引技术:回表和索引下推,解释它们的概念、工作原理以及对性能的影响。
60 3
|
1月前
|
存储 NoSQL 关系型数据库
MongoDB索引知识
MongoDB索引知识
25 1
MongoDB索引知识
|
25天前
|
数据库 索引
数据库索引
数据库索引 1、索引:建立在表一列或多列的辅助对象,目的是加快访问表的数据。 2、索引的优点: (1)、创建唯一性索引,可以确保数据的唯一性; (2)、大大加快数据检索速度; (3)、加速表与表之间的连接; (4)、在查询过程中,使用优化隐藏器,提高系统性能。 3、索引的缺点: (1)、创建和维护索引需要耗费时间,随数据量增加而增加; (2)、索引占用物理空间; (3)、对表的数据进行增删改时,索引需要动态维护,降低了数据的维护速度。
33 2
|
1月前
|
NoSQL Cloud Native atlas
探索云原生数据库:MongoDB Atlas 的实践与思考
【10月更文挑战第21天】本文探讨了MongoDB Atlas的核心特性、实践应用及对云原生数据库未来的思考。MongoDB Atlas作为MongoDB的云原生版本,提供全球分布式、完全托管、弹性伸缩和安全合规等优势,支持快速部署、数据全球化、自动化运维和灵活定价。文章还讨论了云原生数据库的未来趋势,如架构灵活性、智能化运维和混合云支持,并分享了实施MongoDB Atlas的最佳实践。
|
2月前
|
NoSQL Cloud Native atlas
探索云原生数据库:MongoDB Atlas 的实践与思考
【10月更文挑战第20天】本文探讨了MongoDB Atlas的核心特性、实践应用及对未来云原生数据库的思考。MongoDB Atlas作为云原生数据库服务,具备全球分布、完全托管、弹性伸缩和安全合规等优势,支持快速部署、数据全球化、自动化运维和灵活定价。文章还讨论了实施MongoDB Atlas的最佳实践和职业心得,展望了云原生数据库的发展趋势。
|
1月前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
193 1
|
1月前
|
存储 NoSQL MongoDB
MongoDB 索引限制
10月更文挑战第22天
36 2
|
1月前
|
NoSQL MongoDB 索引
MongoDB 高级索引
10月更文挑战第22天
30 2
|
2月前
|
NoSQL MongoDB 索引
MongoDB 覆盖索引查询
10月更文挑战第21天
27 1