黑马es学习

es

  • [0. 基础概念](#0. 基础概念)
    • [0.1 倒排索引](#0.1 倒排索引)
    • [0.2 文档、索引](#0.2 文档、索引)
    • [0.3 与mysql对比](#0.3 与mysql对比)
  • [1 基本操作](#1 基本操作)
    • [1.1 mapping 索引库操作](#1.1 mapping 索引库操作)
    • [1.2 单个文档CRUD](#1.2 单个文档CRUD)
  • [3. DSL查询](#3. DSL查询)
    • [3.1 查询所有](#3.1 查询所有)
    • [3.2 全文检索](#3.2 全文检索)
    • [3.3 精确查询](#3.3 精确查询)
    • [3.4 复合查询-相关性得分](#3.4 复合查询-相关性得分)
    • [3.5 分页](#3.5 分页)
    • [3.6 高亮](#3.6 高亮)
    • [3.7 总结](#3.7 总结)
  • [2. RestClient](#2. RestClient)
  • [4. aggs聚合](#4. aggs聚合)
    • [4.1 bucket(分桶)聚合](#4.1 bucket(分桶)聚合)
    • [4.2 metrics聚合](#4.2 metrics聚合)
  • [5. mysql与es数据同步](#5. mysql与es数据同步)
  • [6. es集群](#6. es集群)
  • extra:es集群数据去重

黑马视频

官方使用手册

java client


0. 基础概念

es本质:一个基于Lucence开发出来的分布式搜索引擎

0.1 倒排索引

创建倒排索引后给词条创建索引,总计进行了两次查询

0.2 文档、索引

文档:一条数据记录

索引:类型相同的文档的集合

0.3 与mysql对比

交易等一致性要求高的mysql做

大范围搜索es做

1 基本操作

1.1 mapping 索引库操作

举例:注意object嵌套关系

禁止修改索引库,但是可以添加新字段

1.2 单个文档CRUD

文档查询:

_source字段下是查询到的原始文档

文档修改:

全量修改:旧的直接删除,新增改后的文档

增量修改:在旧的上面修改

3. DSL查询

dsl常见查询分类:

3.1 查询所有

3.2 全文检索

muti_match的方式能够额外指定针对哪些字段进行查询(任意一个字段包含即可)

3.3 精确查询

值是确定的,不可分割,不可分词,完全匹配

3.4 复合查询-相关性得分

相关性得分算法:(第三种 default)

es 自带的 query score:

自定义function score函数:

自定义score函数时主要确定三个部分:

  1. 哪些文档将进行加权
  2. 算分函数function score如何定义
  3. function score怎么与原始得分query score(BM25)进行加权

demo:

3.5 分页

深度分页问题:

from+size超过1w会直接报错,如果非要查一万条,不太现实,实际生产应用中会从业务层面避免查询1w条(从业务上拒绝),比如百度就是默认最多查70页,每页显示10条数据

3.6 高亮

高亮的结果解析是与_source同级的,需要额外注意:

3.7 总结

2. RestClient

将dsl语句对应到Java


上图中涉及了两个核心api:
source .query()/source()等:

QueryBuilders .各种查询query:

解析查询响应结果:

常见查询:

全文检索查询:

精确查询:




聚合:

4. aggs聚合

聚合操作与query同级,用于对文档进行统计、分析、计算(min/max/avg...)

常见聚合方式:

4.1 bucket(分桶)聚合


默认按照doc_count降序排序,如若修改排序方式:

4.2 metrics聚合

红框:

聚合名称:scoreAgg

聚合类型:stats

聚合字段:score

5. mysql与es数据同步

方案一缺点:业务之间耦合度强,调用耗时

方案二缺点:依赖mq的可靠性


demo:基于mq的实现方式

mq的消息模式:其中交换机用于将消息路由

定义模式:

然后定义绑定关系:将某个队列绑定到指定交换机、用哪个routingKey:

消息发送(两种消息:增改(公用一个key)和删(另一个key)):


消息监听与消费:

定义监听:

具体实现:


6. es集群

extra:es集群数据去重

相关推荐
lilye6613 分钟前
精益数据分析(20/126):解析经典数据分析框架,助力创业增长
大数据·人工智能·数据分析
苏小夕夕26 分钟前
spark-streaming(二)
大数据·spark·kafka
珈和info29 分钟前
珈和科技助力“农险提效200%”!“遥感+”技术创新融合省级示范项目荣登《湖北卫视》!
大数据·科技·无人机·智慧农业
盈达科技33 分钟前
盈达科技:登顶GEO优化全球制高点,以AICC定义AI时代内容智能优化新标杆
大数据·人工智能
电子云与长程纠缠2 小时前
Unreal Niagara制作SubUV贴图翻页动画
学习·ue5·编辑器·贴图·niagara
电商数据girl2 小时前
产品经理对于电商接口的梳理||电商接口文档梳理与接入
大数据·数据库·python·自动化·产品经理
敖云岚3 小时前
【AI】SpringAI 第五弹:接入千帆大模型
java·大数据·人工智能·spring boot·后端
宅小海3 小时前
spark和Hadoop的区别和联系
大数据·hadoop·spark
xing_x_xx3 小时前
Linux系统学习----概述与目录结构
学习
root666/3 小时前
【大数据技术-联邦集群RBF】DFSRouter日志一直打印修改Membership为EXPIRED状态的日志分析
java·大数据·hadoop