ES系列--打分机制

一、文档打分机制

当你通过关键字搜索相关文档时,可能会出现多个文档,这些文档的顺序是通过一个max_score属性的大小从高到低顺序展现出来的,max_score属性就是我们所说的评分。而这个评分是通过一个文档打分机制计算出来的。

二、打分原理

一、总公式

max_score = boost * idf * tf

其中,查询权重可以自己定义。

二、IDF与TF的计算

可以使用

GET /index/_search?explain=true

{

"query": {

"match": {

"text(这个是查询字段)": "hello"(这个是词条)

}

}

}

一、计算TF (词频)

Term Frequency : 搜索文本中的各个词条(term)在查询文本中出现了多少次, 出现次数越多,就越相关,得分会比较高

TF = freq / ( freq + k1 * ( 1 - b + b * dl / avgdl ))

freq:搜索的关键词在文档中出现的次数。

avgdl = fields / documents:

fields : 查询出来的所有文档的分解字段数量

documents:查询文档数量

dl:搜索的关键词再当前文档中分解的长度

二、 计算IDF(逆文档频率)

Inverse Document Frequency : 搜索文本中的各个词条(term)在整个索引的所有文档中 出现了多少次,出现的次数越多,说明越不重要,也就越不相关,得分就比较低。

log ( 1 + ( N - n + 0.5) / ( n + 0.5 ))

N:这个只是查询字段

n:文档中词条,也即查询的关键词的数量

注:这里的 log 是底数为 e 的对数

三、查询权重

我们可以通过控制查询权重来控制文档结果展现的顺序性。
GET /testscore/_search?explain=true

{

"query": {

"bool": {

"should": [{

"match": {

"title": {

"query": "Hadoop",

"boost": 1

}

}

},

{

"match": {

"title": {

"query": "Hive",

"boost": 1

}

}

},

{

"match": {

"title": {

"query": "Spark",

"boost": 2 // 通过查询权重来控制结果的顺序性

}

}

}

]

}

}

}

结果:

相关推荐
洛森唛10 小时前
ElasticSearch查询语句Query String详解:从入门到精通
后端·elasticsearch
字节跳动数据平台10 小时前
5000 字技术向拆解 | 火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
武子康16 小时前
大数据-239 离线数仓 - 广告业务实战:Flume 导入日志到 HDFS,并完成 Hive ODS/DWD 分层加载
大数据·后端·apache hive
洛森唛1 天前
Elasticsearch DSL 查询语法大全:从入门到精通
后端·elasticsearch
字节跳动数据平台2 天前
代码量减少 70%、GPU 利用率达 95%:火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
得物技术2 天前
深入剖析Spark UI界面:参数与界面详解|得物技术
大数据·后端·spark
武子康2 天前
大数据-238 离线数仓 - 广告业务 Hive分析实战:ADS 点击率、购买率与 Top100 排名避坑
大数据·后端·apache hive
武子康3 天前
大数据-237 离线数仓 - Hive 广告业务实战:ODS→DWD 事件解析、广告明细与转化分析落地
大数据·后端·apache hive
大大大大晴天3 天前
Flink生产问题排障-Kryo serializer scala extensions are not available
大数据·flink
Elasticsearch4 天前
如何使用 Agent Builder 排查 Kubernetes Pod 重启和 OOMKilled 事件
elasticsearch