Hbase 与 ElasticSearch 的结合使用

最近在做用elasticSearch建立hbase的二级索引,通过查询elasticSearch实现对hbase的快速查询,从而实现海量数据的秒级快速查询。在这里记录一下自己工作的解决过程。

1 周五下午了。困,心放飞了。

2 哎,但是还在工作时间,还是好好干活吧。

3 疫情快点过去吧,快点过去吧。真的太煎熬了

4 言归正传,想吃大福

5 真的言归正传。

为什么要用hbase与elasticsearch结合使用的方式

(1). 使用hbase。业务数据量很多,及业务数据量本身的结构(视频相关行为),适合适用hbase

(2). hbase支持rowkey查询和过滤的多条件查询。但是如果想根据一个字段的内容去查询,则需要通过mapreduce等,查询缓慢。比如hbase存储的人的信息,想通过所在城市查询,想通过年龄查询。

(3). 可以用elasticsearch建立hbase的二级索引,elasticsearch是一个分布式的索引引擎,查询速度快,且通过倒排索引实现了全文搜索,每个字段都可以被索引和搜索。

elasticsearch 是什么

  • 一个分布式的实时文档存储,每个字段 可以被索引与搜索
  • 一个分布式实时分析搜索引擎
  • 能胜任上百个服务节点的扩展,并支持 PB 级别的结构化或者非结构化数据
主要思想

对hbase要查询的列建立es索引,然后根据es索引查询到rowkey,再根据rowkey查询到需要的数据。

不具体过程

1 建立索引

因为业务原因,需要每天更新全量索引和实时更新批量索引。

全量更新索引:mapreduce

实时更新索引:

(没了,至于为什么没了,是三年前的博文,忘记了。

相关推荐
Elastic 中国社区官方博客12 小时前
使用 Jina CLIP v2 和 Elasticsearch 实现多语言图片搜索
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·jina
醉颜凉13 小时前
Elasticsearch 核心数据结构:FST 原理与应用场景全解析
数据结构·elasticsearch·jenkins
段一凡-华北理工大学13 小时前
工业领域的Hadoop架构学习~系列文章09:HBase列式数据库
数据库·人工智能·hadoop·架构·hbase·高炉炼铁·高炉炼铁智能化
muddjsv13 小时前
Hadoop 与 HBase 深度剖析:从架构原理到实战应用
hadoop·架构·hbase
garmin Chen13 小时前
Elasticsearch(4):Java Rest Client 搜索与聚合速查
java·分布式·elasticsearch
独隅14 小时前
Git Submodule深度避坑指南
大数据·git·elasticsearch
Elastic 中国社区官方博客14 小时前
使用 Elasticsearch 和 GitHub Copilot SDK 构建一个 RAG agent
大数据·人工智能·elasticsearch·搜索引擎·github·全文检索·copilot
星辰_mya14 小时前
Elasticsearch 数据处理常见问题
大数据·elasticsearch·搜索引擎
宸津-代码粉碎机14 小时前
Spring AI企业级RAG进阶|文档智能分片调优、ES深度整合、接口限流熔断监控生产实战
java·开发语言·人工智能·后端·spring·elasticsearch·oracle
追巨1 天前
单节点elasticsearch安装笔记
大数据·elasticsearch·jenkins