分享好友 最新动态首页 最新动态分类 切换频道
分布式搜索引擎elasticsearch搜索功能介绍及实际案例剖析
2024-12-26 08:27

1.1.1 DSLQuery的分类

Elasticsearch提供了基于JSON的DSL(Domain Specific  Language)来定义查询。常见的查询类型包括

分布式搜索引擎elasticsearch搜索功能介绍及实际案例剖析

查询所有:查询出所有数据,一般测试用。例如:match_all

全文检索(full text)查询:利用分词器对用户输入内容分词,然后去倒排索引库中匹配。例如

  • match_query
  • multi_match_query

精确查询:根据精确词条值查找数据,一般是查找keyword、数值、日期、boolean等类型字段。例如

  • ids
  • range
  • term

地理(geo)查询:根据经纬度查询。例如

  • geo_distance
  • geo_bounding_box

复合(compound)查询:复合查询可以将上述各种查询条件组合起来,合并查询条件。例如

  • bool
  • function_score

1.1.2 Query基本语法

条件查询

GET /indexName/_search { "query": { "查询类型": { "查询条件": "条件值" } } }

查询所有

GET /indexName/_search { "query": { "match_all": { } } }

总结:查询DSL的基本语法是什么

  • GET /索引库名/_search
  • { "query": { "查询类型": { "FIELD": "TEXT"}}}

全文检索查询,会对用户输入内容分词,常用于搜索框搜索

match查询:全文检索查询的一种,会对用户输入内容分词,然后去倒排索引库检索,语法

GET /indexName/_search { "query": { "match": { "FIELD": "TEXT" } } }

multi_match:与match查询类似,只不过允许同时查询多个字段,语法

GET /indexName/_search { "query": { "multi_match": { "query": "TEXT", "fields": ["FIELD1", " FIELD12"] } } }

match和multi_match的区别是什么

match:根据一个字段查询

multi_match:根据多个字段查询,参与查询字段越多,查询性能越差

精确查询一般是查找keyword、数值、日期、boolean等类型字段。所以不会对搜索条件分词。常见的有

term:根据词条精确值查询

range:根据值的范围查询

精确查询常见的有term查询和range查询。语法如下

term查询

GET /indexName/_search { "query": { "term": { "FIELD": { "value": "VALUE" } } } }

range查询

GET /indexName/_search { "query": { "range": { "FIELD": { "gte": 10, "lte": 20 } } } }

总结:精确查询常见的有哪些

term查询:根据词条精确匹配,一般搜索keyword类型、数值类型、布尔类型、日期类型字段

range查询:根据数值范围查询,可以是数值、日期的范围

根据经纬度查询。常见的使用场景包括

携程:搜索我附近的酒店

滴滴:搜索我附近的出租车

微信:搜索我附近的人

geo_bounding_box:查询geo_point值落在某个矩形范围的所有文档

GET /indexName/_search { "query": { "geo_bounding_box": { "FIELD": { "top_left": { "lat": 31.1, "lon": 121.5 }, "bottom_right": { "lat": 30.9, "lon": 121.7 } } } } }

geo_distance:查询到指定中心点小于某个距离值的所有文档

GET /indexName/_search { "query": { "geo_distance": { "distance": "15km", "FIELD": "31.21,121.5" } } }

复合(compound)查询:复合查询可以将其它简单查询组合起来,实现更复杂的搜索逻辑,例如

fuction score:算分函数查询,可以控制文档相关性算分,控制文档排名。例如百度竞价

相关性算分

当我们利用match查询时,文档结果会根据与搜索词条的关联度打分(_score,返回结果时按照分值降序排列。

例如,我们搜索 "虹桥如家",结果如下

 

elasticsearch中的相关性打分算法是什么

TF-IDF:在elasticsearch5.0之前,会随着词频增加而越来越大

BM25:在elasticsearch5.0之后,会随着词频增加而增大,但增长曲线会趋于水平

Function Score Query

使用 function score query,可以修改文档的相关性算分(query score,根据新得到的算分排序。

案例:给“如家”这个品牌的酒店排名靠前一些

把这个问题翻译一下,function score需要的三要素

1、哪些文档需要算分加权

品牌为如家的酒店

2、算分函数是什么

weight就可以

3、加权模式是什么

求和

 

function score query定义的三要素是什么

  • 过滤条件:哪些文档要加分
  • 算分函数:如何计算function score
  • 加权方式:function score 与 query score如何运算

复合查询 Boolean Query

布尔查询是一个或多个查询子句的组合。子查询的组合方式有

must:必须匹配每个子查询,类似“与”

should:选择性匹配子查询,类似“或”

must_not:必须不匹配,不参与算分,类似“非”

filter:必须匹配,不参与算分

 

案例:利用bool查询实现功能

需求:搜索名字包含“如家”,价格不高于400,在坐标31.21,121.5周围10km范围内的酒店。

 

总结:bool查询有几种逻辑关系

must:必须匹配的条件,可以理解为“与”

should:选择性匹配的条件,可以理解为“或”

must_not:必须不匹配的条件,不参与打分

filter:必须匹配的条件,不参与打分

elasticsearch支持对搜索结果排序,默认是根据相关度算分(_score)来排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。

 
 

案例:对酒店数据按照用户评价降序排序,评价相同的按照价格升序排序

评价是score字段,价格是price字段,按照顺序添加两个排序规则即可。

案例:实现对酒店数据按照到你的位置坐标的距离升序排序

获取经纬度的方式:获取鼠标点击经纬度-地图属性-示例中心-JS API 2.0 示例 | 高德地图API

elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。

elasticsearch中通过修改from、size参数来控制要返回的分页结果

 
 

深度分页问题

ES是分布式的,所以会面临深度分页问题。例如按price排序后,获取from = 990,size =10的数据

  1. 首先在每个数据分片上都排序并查询前1000条文档。
  2. 然后将所有节点的结果聚合,在内存中重新排序选出前1000条文档
  3. 最后从这1000条中,选取从990开始的10条文档

如果搜索页数过深,或者结果集(from + size)越大,对内存和CPU的消耗也越高。因此ES设定结果集查询的上限是10000

深度分页解决方案

针对深度分页,ES提供了两种解决方案

  • search after:分页时需要排序,原理是从上一次的排序值开始,查询下一页数据。官方推荐使用的方式。
  • scroll:原理将排序数据形成快照,保存在内存。官方已经不推荐使用。

总结

from + size

优点:支持随机翻页

缺点:深度分页问题,默认查询上限(from + size)是10000

场景:百度、京东、谷歌、淘宝这样的随机翻页搜索

after search

优点:没有查询上限(单次查询的size不超过10000

缺点:只能向后逐页查询,不支持随机翻页

场景:没有随机翻页需求的搜索,例如手机向下滚动翻页

scroll

优点:没有查询上限(单次查询的size不超过10000

缺点:会有额外内存消耗,并且搜索结果是非实时的

场景:海量数据的获取和迁移。从ES7.1开始不推荐,建议用 after search方案。

高亮:就是在搜索结果中把搜索关键字突出显示。

原理是这样的

将搜索结果中的关键字用标签标记出来

在页面中给标签添加css样式

语法

 
 

搜索结果处理整体语法

 
 
 

我们通过match_all来演示下基本的API,先看请求DSL的组织

我们通过match_all来演示下基本的API,再看结果的解析

RestAPI中其中构建DSL是通过HighLevelRestClient中的resource()来实现的,其中包含了查询、排序、分页、高亮等所有功能

RestAPI中其中构建查询条件的核心部分是由一个名为QueryBuilders的工具类提供的,其中包含了各种查询方法

总结:查询的基本步骤是

  1. 创建SearchRequest对象
  2. 准备Request.source(),也就是DSL。
    QueryBuilders来构建查询条件
    传入Request.source() 的 query() 方法
  3. 发送请求,得到结果
  4. 解析结果(参考JSON结果,从外到内,逐层解析

全文检索的match和multi_match查询与match_all的API基本一致。差别是查询条件,也就是query的部分。

同样是利用QueryBuilders提供的方法

// 单字段查询QueryBuilders.matchQuery("all", "如家");

// 多字段查询QueryBuilders.multiMatchQuery("如家", "name", "business");

 
 

精确查询常见的有term查询和range查询,同样利用QueryBuilders实现

// 词条查询QueryBuilders.termQuery("city", "杭州");

// 范围查询QueryBuilders.rangeQuery("price").gte(100).lte(150);

 
 

精确查询常见的有term查询和range查询,同样利用QueryBuilders实现

// 创建布尔查询

BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();

// 添加must条件

boolQuery.must(QueryBuilders.termQuery("city", "杭州"));

// 添加filter条件

boolQuery.filter(QueryBuilders.rangeQuery("price").lte(250));

 

总结:要构建查询条件,只要记住一个类:QueryBuilders

搜索结果的排序和分页是与query同级的参数,对应的API如下

// 查询

request.source().query(QueryBuilders.matchAllQuery());

// 分页

request.source().from(0).size(5);

 

高亮API包括请求DSL构建和结果解析两部分。我们先看请求的DSL构建

 
 

总结

所有搜索DSL的构建,记住一个API

SearchRequest的source()方法。

高亮结果解析是参考JSON结果,逐层解析

先实现其中的关键字搜索功能,实现步骤如下

  1. 定义实体类,接收前端请求
  2. 定义controller接口,接收页面请求,调用IHotelService的search方法
  3. 定义IHotelService中的search方法,利用match查询实现根据关键字搜索酒店信息

步骤1:定义类,接收前端请求参数

 

步骤2:定义controller接口,接收前端请求

定义一个HotelController,声明查询接口,满足下列要求

  • 请求方式:Post
  • 请求路径:/hotel/list
  • 请求参数:对象,类型为RequestParam
  • 返回值:PageResult,包含两个属性

Long total:总条数

List hotels:酒店数据

步骤3:在IHotelService中定义一个方法,实现搜索功能

  1. 在IHotelService中定义一个方法,声明如下
 
  1. 在HotelService中实现该方法,满足下列要求
  • 利用match查询,根据参数中的key搜索all字段,查询酒店信息并返回
  • 利用参数中的page、size实现分页

步骤

修改RequestParams类,添加brand、city、starName、minPrice、maxPrice等参数

修改search方法的实现,在关键字搜索时,如果brand等参数存在,对其做过滤

步骤一:拓展IUserService的search方法的参数列表

修改RequestParams类,接收所有参数

 

步骤二:修改search方法,在match查询基础上添加过滤条件

过滤条件包括

  • city精确匹配
  • brand精确匹配
  • starName精确匹配
  • price范围过滤

注意事项

  • 多个条件之间是AND关系,组合多条件用BooleanQuery
  • 参数存在才需要过滤,做好非空判断

我们给需要置顶的酒店文档添加一个标记。然后利用function score给带有标记的文档增加权重。

实现步骤分析

  1. 给HotelDoc类添加isAD字段,Boolean类型
  2. 挑选几个你喜欢的酒店,给它的文档数据添加isAD字段,值为true
  3. 修改search方法,添加function score功能,给isAD值为true的酒店增加权重
最新文章
学习总结4
假设开始为1,第二个位置有2和3两个数供选择,如果第2个数选择3,那么第3个数只能选2.返回第二步则可以选择2,又生成另一种排序。之前acm社团讲题时提到过这个算法,但没有代码演示,遂没有深究。但只
支付解决方案一:接入第三方支付,化解电商平台出入金风险!微三云麦超介绍
支付解决方案一:接入第三方支付,化解电商平台出入金风险!微三云麦超介绍前文介绍:微三云云平台分布式系统实现一个系统双服务器部署,核心底层与前端应用分开服务 器部署,基本杜绝类似旧商城和市场上大部分系统黑客通过各种路径进行攻
限时免费!用AI生成超真实美女写真,轻松一键体验!
访问平台:在手机或电脑上搜索【搜狐简单AI】,进入网站或微信小程序。注册账户:如果你还没有账户,按照提示进行注册,完成之后可享受更多功能。选择类型:在主界面选择“美女写真”或其他相关选项,确保你的需求得到满足。上传图片:根据
计算机的硬件包括外部设备和什么,深度详析落实_ZXC版?HII7664
计算机硬件主要包括外部设备(如显示器、键盘等)和内部设备(如CPU、&
怎么把python模型部署到线上_NLP第18课:模型部署上线的几种服务发布方式
在前面所有的模型训练和预测中,我们训练好的模型都是直接通过控制台或者 Jupyter Notebook 来进行预测和交互的,在一个系统或者项目中使用这种方式显然不可能,那在 Web 应用中如何使用我们训练好的模型呢?本文
腾讯云服务器选购指南
AI导航网,AI网站大全,AI工具大全,AI软件大全,AI工具集合,AI编程,AI绘画,AI写作,AI视频生成,AI对话聊天等更多内容请查看 https://aiaiv.cn/腾讯云云服务器 云服务器选型最佳实践-实践教程-文档中心 2024年11月11日 · 本文将从云
龙头企业如何进行精准定义?这种精准定义的标准有哪些?
在经济领域中,对于龙头企业的精准定义是一个复杂但关键的问题。 龙头企业通常在其所属的行业中具有显著的影响力和引领作用。然而,要确切地定义一家企业是否为龙头企业,不能仅仅依据单一的标准,而是需要综合考量多个方面的因素。再者,
晶硅时代的答案,以BC为名
11月20日至22日,12th bifi PV Workshop 2024 Zhuhai国际峰会在广东珠海成功举办。400余位来自全球光伏行业的顶尖专家、头部企业和知名机构代表参会,聚焦双面BC技术展开了30场专业探讨与交流。在这场BC盛会的背后,可以看到BC生态圈正蔚然
金华抖音,抖音推广,抖音广告投放,抖音关键词排名,抖音代运营,探店,短视频拍摄,永康抖音推广,义乌抖音推广,武义抖音运营,微信朋友圈广告投放,抖音公司,金华小程序开发,金华网站建设公司,义乌,东阳,永
金华抖音平台推广四种方式收费标准,看看你行业时候哪种方式推广!创作灵感,抖音广告,抖音广告推广投放,抖音广告收费标准,抖音广告收费-金华信息流广告巨量引擎是抖音集团旗下的官方营销服务品牌,整合了今日头条、抖音、西瓜视频等营销资源的
相关文章
推荐文章
发表评论
0评