检索技术:倒排检索加速(二)

简介: 本文介绍了倒排索引中联合查询的四种优化方法:调整次序法、快速多路归并法、预先组合法和缓存法。通过数学变换、算法优化与工程实践,从不同维度提升复杂查询的检索效率,适用于搜索引擎等高并发场景。

在上一篇,我们讲了工业界中,倒排索引是怎么利用基础的数据结构来加速「求交集」过程的。现在,相信你已经对跳表、哈希表和位图的实际使用,有了更深刻的理解和认识了。然而,在日常的检索中,我们往往会面临更复杂的联合查询需求。这个时候,又该如何加速呢?

我们先来看一个例子:在一个系统的倒排索引中,有 4 个不同的 key,分别记录着「北京」「上海」「安卓」「学生」,这些标签分别对应着 4 种人群列表。如果想分析用户的特点,我们需要根据不同的标签来选择不同的人群。这个时候,我们可能会有以下的联合查询方式:

  1. 在「北京」或在「上海」,并且使用「安卓」的用户集合。抽象成联合查询表达式就是,(北京 ∪ 上海)∩ 安卓;
  2. 在「北京」使用「安卓」,并且是「学生」的用户集合。抽象成联合查询表达式就是,北京 ∩ 安卓 ∩ 学生。

这只是 2 个比较有代表性的联合查询方式,实际上,联合查询的组合表达可以更长、更复杂。对于联合查询,在工业界中有许多加速检索的研究和方法,比如,调整次序法、快速多路归并法、预先组合法和缓存法。今天,我们就来聊一聊这四种加速方法。

方法一:调整次序法


首先,我们来看调整次序法。那什么是调整次序法呢?接下来,我们就以三个集合的联合查询为例,来一起分析一下。这里我再多说一句,虽然这次讲的是三个集合,但是对于多个集合,我们也是采用同样的处理方法。

假设,这里有 A、B、C 三个集合,集合中的元素个数分别为 2、20、40,而且 A 包含在 B 内,B 包含在 C 内。这里我先补充一点,如果两个集合分别有 m 个元素和 n 个元素,那使用普通的遍历归并合并它们的时间代价为 O(m+n)。接着,如果我们要对 A、B、C 求交集,这个时候,会有几种不同的求交集次序,比如,A∩(B∩C)、(A∩B)∩C 等。那我们该如何选择求交集的次序呢?下面,我们就以这两种求交集次序为例来分析一下,不同的求交集次序对检索效率的影响。

当求交集次序是 A∩(B∩C)时,我们要先对 B 和 C 求交集,时间代价就是 20+40 = 60,得到的结果集是 B,然后 B 再和 A 求交集,时间代价是 2 + 20 = 22。因此,最终一共的时间代价就是 60 + 22 = 82。

那当求交集次序是(A∩B)∩C 时,我们要先对 A 和 B 求交集,时间代价是 2 + 20 = 22,得到的结果集是 A,然后 A 再和 C 求交集,时间代价是 2 + 40 = 42。因此,最终的时间代价就是 22 + 42 = 64。这比之前的代价要小得多。

除了对 A、B、C 这三个集合同时取交集以外,还有一种常见的联合查询方式,就是对其中两个集合取并集之后,再和第三个集合取交集,比如 A ∩(B∪C),你可以看我开头举的第一个例子。在这种情况下,如果我们不做任何优化,查询代价是怎么样的呢?让我们一起来看一下。

首先是执行 B∪C 的操作,时间代价是 20 + 40 = 60,结果是 C。然后再和 A 求交集,时间代价是 2+40 = 42。一共是 102。

这样的时间代价非常大,那针对这个查询过程我们还可以怎么优化呢?这种情况下,我们可以尝试使用数学公式,对先求并集再求交集的次序进行改造,我们先来复习一个集合分配律公式:

A∩(B∪C)=(A∩B)∪(A∩C)

然后,我们就可以把先求并集再求交集的操作,转为先求交集再求并集的操作了。那这个时候,查询的时间代价是多少呢?我们一起来看一下。

首先,我们要执行 A∩B 操作,时间代价是 2+20 = 22,结果是 A。然后,我们执行 A∩C 操作,时间代价是 2+40=42,结果也是 A。最后,我们对两个 A 求并集,时间代价是 2+2=4。因此,最终总的时间代价是 22 + 42 + 4 = 68。这比没有优化前的 102 要低得多。

这里有一点需要特别注意,如果求并集的元素很多,比如说(B∪C∪D∪E∪F),那我们用分配律改写的时候,A 就需要分别和 B 到 F 求 5 次交集,再将 5 个结果求并集。这样一来,操作的次数会多很多,性能就有可能下降。因此,我们需要先检查 B 到 F 每个集合的大小,比如说,如果集合中元素个数都明显大于 A,我们预测它们分别和 A 求交集能有提速的效果,那我们就可以使用集合分配律公式来加速检索。

不知道你有没有注意到,在一开始讲这两个例子的时候,我们假设了 A、B、C有相互包含的关系,这是为了方便你更好地理解调整操作次序带来的效率差异。那在真实情况中,集合中的关系不会这么理想,但是我们分析得到的结论,依然是有效的。

求交集:就是在每个集合中都存在的元素留下来,笔者看完,感觉就是从小集合往大集合开始求交集是最快的,因为交集最多元素个数也就是小集合的个数

方法二:快速多路归并法


但是,调整次序法有一个前提,就是 集合的大小要有一定的差异,这样的调整效果才会更明显。那如果我们要对多个 posting list 求交集,但是它们的长度差异并不大,这又该如何优化呢?这个时候,我们可以使用跳表法来优化。

在对多个 posting list 求交集的过程中,我们可以 利用跳表的性质,快速跳过多个元素,加快多路归并的效率。这种方法,我叫它 快速多路归并法。在一些搜索引擎和广告引擎中,包括在 Elastic Search 这类框架里,就都使用了这样的技术。那具体是怎么做的呢?我们一起来看一下。

其实,快速多路归并法的思路和实现都非常简单,就是将 n 个链表的当前元素看作一个 有序循环数组 list[n]。并且,对有序循环数组从小到大依次处理,当有序循环数组中的 最小值等于最大值,也就是所有元素都相等时,就说明我们找到了公共元素。

这么说可能比较抽象,下面,我们就以 4 个链表 A、B、C、D 求交集为例,来讲一讲具体的实现步骤。

  1. 第 1 步,将 4 个链表的当前第一个元素取出,让它们按照由小到大的顺序进行排序。然后,将链表也按照由小到大有序排列;
  2. 第 2 步,用一个变量 max 记录当前 4 个链表头中最大的一个元素的值;
  3. 第 3 步,从第一个链表开始,判断当前位置的值是否和 max 相等。如果等于 max,则说明此时所有链表的当前元素都相等,该元素为公共元素,那我们就将该元素取出,然后回到第一步;如果当前位置的值小于 max,则用 跳表法 快速调整到该链表中 第一个大于等于 max 的元素位置;如果新位置元素的值大于 max,则更新 max 的值。
  4. 第 4 步,对下一个链表重复第 3 步,就这样依次处理每个链表(处理完第四个链表后循环回到第一个链表,用循环数组实现),直到链表全部遍历完。

为了帮助你加深理解,我在下面的过程图中加了一个具体的例子,你可以对照前面的文字描述一起消化吸收。

上图的例子中,我们通过以上 4 个步骤,找到了公共元素 6。接下来,你可以试着继续用这个方法,去找下一个公共元素 11。这里,我就不再继续举例了。

方法三:预先组合法


接下来,我们来说一说第三种方法,预先组合法。其实预先组合法的核心原理,和我们熟悉的一个系统实现理念一样,就是能 提前计算好 的,就不要临时计算。换一句话说,对于常见的联合查询,我们可以提前将结果算好,并将该联合查询定义一个 key。那具体该怎么操作呢?

假设,key1、key2 和 key3 分别的查询结果是 A、B、C 三个集合。如果我们经常会计算 A∩B∩C,那我们就可以将 key1+key2+key3 这个查询定义为一个新的组合 key,然后对应的 posting list 就是提前计算好的结果。之后,当我们要计算 A∩B∩C 时,直接去查询这个组合 key,取出对应的 posting list 就可以了。

方法四:缓存法加速联合查询


预先组合的方法非常实用,但是在搜索引擎以及一些具有热搜功能的平台中,经常会出现一些最新的查询组合。这些查询组合请求量也很大,但是由于之前没有出现过,因此我们无法使用预先组合的方案来优化。这个时候,我们会使用 缓存技术 来优化。

那什么是缓存技术呢?缓存技术就是指将之前的联合查询结果保存下来。这样再出现同样的查询时,我们就不需要重复计算了,而是直接取出之前缓存的结果即可。这里,我们可以借助预先组合法的优化思路,为每一个联合查询定义一个新的 key,将结果作为这个 key 的 posting list 保存下来。

但是,我们还要考虑一个问题:内存空间是有限的,不可能无限缓存所有出现过的查询组合。因此,对于缓存,我们需要进行内容替换管理。一种常用的缓存管理技术是 LRU(Least Recently Used),也叫作 最近最少使用替换机制。所谓最近最少使用替换机制,就是如果一个对象长期未被访问,那当缓存满时,它将会被替换。

对于最近最少使用替换机制,一个合适的实现方案是使用 双向链表当一个元素被访问时,将它提到链表头。这个简单的机制能起到的效果是:如果一个元素经常被访问,它就会经常被往前提;如果一个元素长时间未被访问,它渐渐就会被排到链表尾。这样一来,当缓存满时,我们直接删除链表尾的元素即可。

不过,我们希望 能快速查询缓存,那链表的访问速度就不满足我们的需求了。因此,我们可以使用 O(1) 查询代价的哈希表来优化。我们向链表中插入元素时,同时向哈希表中插入该元素的 key,然后这个 key 对应的 value 则是链表中这个节点的地址。这样,我们在查询这个 key 的时候,就可以通过查询哈希表,快速找到链表中的对应节点了。因此,使用 双向链表 + 哈希表 是一种常见的实现 LRU 机制的方案。

使用双向链表 + 哈希表实现 LRU 机制

通过使用 LRU 缓存机制,我们就可以将临时的查询组合缓存起来,快速查询出结果,而不需要重复计算了。一旦这个查询组合不是热点了,那它就会被 LRU 机制替换出缓存区,让位给新的热点查询组合。

缓存法在许多高并发的查询场景中,会起到相当大的作用。比如说在搜索引擎中,对于一些特定时段的热门查询,缓存命中率能达到 60% 以上甚至更高,会大大加速系统的检索效率。

相关文章
|
5天前
|
存储 JavaScript 前端开发
JavaScript基础
本节讲解JavaScript基础核心知识:涵盖值类型与引用类型区别、typeof检测类型及局限性、===与==差异及应用场景、内置函数与对象、原型链五规则、属性查找机制、instanceof原理,以及this指向和箭头函数中this的绑定时机。重点突出类型判断、原型继承与this机制,助力深入理解JS面向对象机制。(238字)
|
4天前
|
云安全 人工智能 安全
阿里云2026云上安全健康体检正式开启
新年启程,来为云上环境做一次“深度体检”
1579 6
|
6天前
|
安全 数据可视化 网络安全
安全无小事|阿里云先知众测,为企业筑牢防线
专为企业打造的漏洞信息收集平台
1322 2
|
5天前
|
缓存 算法 关系型数据库
深入浅出分布式 ID 生成方案:从原理到业界主流实现
本文深入探讨分布式ID的生成原理与主流解决方案,解析百度UidGenerator、滴滴TinyID及美团Leaf的核心设计,涵盖Snowflake算法、号段模式与双Buffer优化,助你掌握高并发下全局唯一ID的实现精髓。
346 160
|
5天前
|
人工智能 自然语言处理 API
n8n:流程自动化、智能化利器
流程自动化助你在重复的业务流程中节省时间,可通过自然语言直接创建工作流啦。
406 6
n8n:流程自动化、智能化利器
|
7天前
|
人工智能 API 开发工具
Skills比MCP更重要?更省钱的多!Python大佬这观点老金测了一周终于懂了
加我进AI学习群,公众号右下角“联系方式”。文末有老金开源知识库·全免费。本文详解Claude Skills为何比MCP更轻量高效:极简配置、按需加载、省90% token,适合多数场景。MCP仍适用于复杂集成,但日常任务首选Skills。推荐先用SKILL.md解决,再考虑协议。附实测对比与配置建议,助你提升效率,节省精力。关注老金,一起玩转AI工具。
|
14天前
|
机器学习/深度学习 安全 API
MAI-UI 开源:通用 GUI 智能体基座登顶 SOTA!
MAI-UI是通义实验室推出的全尺寸GUI智能体基座模型,原生集成用户交互、MCP工具调用与端云协同能力。支持跨App操作、模糊语义理解与主动提问澄清,通过大规模在线强化学习实现复杂任务自动化,在出行、办公等高频场景中表现卓越,已登顶ScreenSpot-Pro、MobileWorld等多项SOTA评测。
1542 7
|
4天前
|
Linux 数据库
Linux 环境 Polardb-X 数据库 单机版 rpm 包 安装教程
本文介绍在CentOS 7.9环境下安装PolarDB-X单机版数据库的完整流程,涵盖系统环境准备、本地Yum源配置、RPM包安装、用户与目录初始化、依赖库解决、数据库启动及客户端连接等步骤,助您快速部署运行PolarDB-X。
246 1
Linux 环境 Polardb-X 数据库 单机版 rpm 包 安装教程
|
8天前
|
人工智能 前端开发 API
Google发布50页AI Agent白皮书,老金帮你提炼10个核心要点
老金分享Google最新AI Agent指南:让AI从“动嘴”到“动手”。Agent=大脑(模型)+手(工具)+协调系统,可自主完成任务。通过ReAct模式、多Agent协作与RAG等技术,实现真正自动化。入门推荐LangChain,文末附开源知识库链接。
670 119