Elasticsearch 8.X 向量检索和普通检索能否实现组合检索?如何实现?

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: Elasticsearch 8.X 向量检索和普通检索能否实现组合检索?如何实现?

1、企业级实战问题

向量组合条件查询,报 [vector] malformed query, expected [END_OBJECT] but found [FIELD_NAME] 错误,

向量查询是不支持复合条件查询吗?

GET /my_index/_search
{
  "size":2,
  "_source": true, 
  "query": {
    "vector": {
      "my_vector": {
        "vector": [1, 1],
        "topk":2
      }
    },
    "bool": {
      "must": [
        {
          "match": {
            "my_label":"red"
          }
        }
      ]
    }
  }
}

——问题来自:死磕 Elasticsearch 知识星球

https://t.zsxq.com/18skX0ZS6

类似问题在社群里被问到 2 次以上了!

向量搜索热度不减,所以我们非常有必要将向量搜索和普通搜索结合方式给大家讲清楚。

换句话说,向量搜索和普通搜索的组合检索才是 Elasticsearch 作为向量数据库有别于其他新兴向量数据库的发力点所在。

更多向量检索的先验知识,推荐大家阅读:

2、一边实战,一边验证

如下所有验证都是在 Elasticsearch 8.11.0 集群环境下完成的。

2.1 步骤 1: 创建索引

首先,通过PUT image-index 请求,创建了一个名为 image-index 的索引,并定义了其映射。

这个映射指定了索引中文档将包含的字段及其类型:

  • image-vector:一个类型为dense_vector的字段,用于存储 ** 3 维 ** 向量数据。
  • title:一个text类型的字段,用于存储图像的标题。
  • file-type:一个keyword类型的字段,用于存储文件类型,如"jpeg"、"png"、"gif"等。
  • my_label:另一个text类型的字段,可以用于存储任何标签信息,如颜色标签"red"、"blue"等。
PUT image-index
{
  "mappings": {
    "properties": {
      "image-vector": {
        "type": "dense_vector",
        "dims": 3
      },
      "title": {
        "type": "text"
      },
      "file-type": {
        "type": "keyword"
      },
      "my_label": {
        "type": "text"
      }
    }
  }
}

2.2 步骤 2: 批量插入数据

使用 POST /image-index/_bulk 请求,批量插入了多个文档到 image-index 索引。

每个文档包含了一个向量、标题、文件类型和标签。

这些文档反映了不同的图像信息,每个图像都有自己的向量表示、标题、文件类型和颜色标签。

POST image-index/_bulk
{ "index": {} }
{ "image-vector": [-5, 9, -12], "title": "Image A", "file-type": "jpeg", "my_label": "red" }
{ "index": {} }
{ "image-vector": [10, -2, 3], "title": "Image B", "file-type": "png", "my_label": "blue" }
{ "index": {} }
{ "image-vector": [4, 0, -1], "title": "Image C", "file-type": "gif", "my_label": "red" }

2.3 步骤3:基于已有认知尝试组合检索

knn 检索咱讲过,翻一下官方文档即可。

https://www.elastic.co/guide/en/elasticsearch/reference/current/knn-search.html

官方示例如下:

POST image-index/_search
{
  "knn": {
    "field": "image-vector",
    "query_vector": [-5, 9, -12],
    "k": 10,
    "num_candidates": 100
  },
  "fields": [ "title", "file-type" ]
}

正好和我们的示例是契合的,我们先执行一下,如下图所示,全体数据均可召回。

接下来,尝试再加上普通检索。

  • 并列组合
  • 大 BOOL 组合写
  • 组合到内部 咱们挨个试试:
2.3.1 尝试方式一:并列组合检索

可以执行,可以召回结果数据。

但结果没有达到预期,我们过滤的 red ,召回结果里有 blue。如下图所示。

结论:并列组合检索不可行。

2.3.2 方式二:大 BOOL 组合写

按照常规逻辑的 bool 组合检索,结果发现:并不支持!

2.3.3 方式三:组合到内部

直接将过滤检索组合到 knn 内部,会报错,语法并不支持!

那,怎么办?

不能再猜了,看官方文档如何支持的?

https://www.elastic.co/guide/en/elasticsearch/reference/current/knn-search.html

官方文档给出两份答案。

2.3.4 官方答案一:Filtered kNN search

如下实现语法的核心:knn 向量检索的里面加了 filter 过滤。

POST image-index/_search
{
  "knn": {
    "field": "image-vector",
    "query_vector": [
      54,
      10,
      -2
    ],
    "k": 5,
    "num_candidates": 50,
    "filter": {
      "match": {
        "my_label": "red"
      }
    }
  },
  "fields": [
    "title",
    "file-type",
    "my_label"
  ],
  "_source": false
}

针对前面提到问题的解决方案,这是咱们推荐的唯一正确的检索方式。

2.3.5 官方答案二:hybrid  search 混合检索

这个方式,就是咱们前面验证过的并列组合检索方式。结论和之前一致,并没有达到预期。

POST image-index/_search
{
  "query": {
    "match": {
      "my_label": {
        "query": "red"
      }
    }
  },
  "knn": {
    "field": "image-vector",
    "query_vector": [
      54,
      10,
      -2
    ],
    "k": 5,
    "num_candidates": 50,
    "boost": 0.1
  },
  "size": 10
}

3、小结

查询方式千万种,我们需要敲定适合自己业务场景的方式。

基于已有的常识组合检索是一种方式,更快的方式是结合官方文档探究。

我们既定认为的检索方式,不见得是官方推荐的方式。

官方推荐的:Filtered kNN search 查询结合了基于内容的过滤和基于向量的搜索,旨在找出既符合文本查询条件(如标签为"red")又在向量空间中与给定查询向量最接近的文档。

这样的查询在处理如图像、文档或音频等多媒体内容时特别有用,其中内容可以通过向量(例如通过机器学习模型生成的嵌入)和元数据(如标签、标题或类型)来描述。

通过这种方式,我们可以高效地找到既满足特定元数据条件又在内容上与给定示例相似的项目,这对于构建推荐系统、图像搜索引擎或其他需要结合内容和上下文信息进行精准检索的应用场景非常有价值。

此处后续版本可能有变化,更多细节,以最新版本的官方文档为准。


7 年+积累、 Elastic 创始人Shay Banon 等 15 位专家推荐的 Elasticsearch 8.X新书已上线


更短时间更快习得更多干货!

和全球 近2000+ Elastic 爱好者一起精进!

elastic6.cn——ElasticStack进阶助手

比同事抢先一步学习进阶干货!


相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
4月前
|
SQL JSON 大数据
ElasticSearch的简单介绍与使用【进阶检索】 实时搜索 | 分布式搜索 | 全文搜索 | 大数据处理 | 搜索过滤 | 搜索排序
这篇文章是Elasticsearch的进阶使用指南,涵盖了Search API的两种检索方式、Query DSL的基本语法和多种查询示例,包括全文检索、短语匹配、多字段匹配、复合查询、结果过滤、聚合操作以及Mapping的概念和操作,还讨论了Elasticsearch 7.x和8.x版本中type概念的变更和数据迁移的方法。
ElasticSearch的简单介绍与使用【进阶检索】 实时搜索 | 分布式搜索 | 全文搜索 | 大数据处理 | 搜索过滤 | 搜索排序
|
4月前
|
存储 API 数据库
检索服务elasticsearch索引(Index)
【8月更文挑战第23天】
68 6
|
4月前
|
存储 负载均衡 监控
检索服务elasticsearch节点(Node)
【8月更文挑战第23天】
62 5
|
4月前
|
存储 监控 负载均衡
检索服务elasticsearch集群(Cluster)
【8月更文挑战第23天】
65 3
|
4月前
|
网络协议 Java API
SpringBoot整合Elasticsearch-Rest-Client、测试保存、复杂检索
这篇文章介绍了如何在SpringBoot中整合Elasticsearch-Rest-Client,并提供了保存数据和进行复杂检索的测试示例。
SpringBoot整合Elasticsearch-Rest-Client、测试保存、复杂检索
|
3月前
|
存储 自然语言处理 关系型数据库
ElasticSearch基础3——聚合、补全、集群。黑马旅游检索高亮+自定义分词器+自动补全+前后端消息同步
聚合、补全、RabbitMQ消息同步、集群、脑裂问题、集群分布式存储、黑马旅游实现过滤和搜索补全功能
ElasticSearch基础3——聚合、补全、集群。黑马旅游检索高亮+自定义分词器+自动补全+前后端消息同步
|
4月前
|
SQL 存储 自然语言处理
检索服务elasticsearch全文搜索
【8月更文挑战第22天】
61 3
|
4月前
|
SQL 存储 监控
检索服务elasticsearch
【8月更文挑战第21天】
38 0
|
4月前
|
存储 缓存 监控
Elasticsearch Filter 缓存加速检索的细节,你知道吗?
【8月更文挑战第15天】在大数据与搜索引擎的广阔天地里,Elasticsearch 凭借其强大的全文搜索能力和可扩展性,成为了众多企业和开发者的首选。而在Elasticsearch的性能优化中,Filter缓存(也称为Filter Cache,自Elasticsearch 7.x版本后更名为Query Cache的一部分)扮演着至关重要的角色。今天,我们就来深入探讨一下Elasticsearch Filter缓存如何加速检索过程,以及在日常工作学习中如何有效利用这一特性。
77 0
|
5月前
|
存储 监控 搜索推荐
大规模数据存储与检索:Java与Elasticsearch应用
大规模数据存储与检索:Java与Elasticsearch应用