es数据同步(仅供自己参考)

数据同步的问题分析:

当MySQL进行增删改查的时候,数据库的数据有所改变,这个时候需要修改es中的索引库的值,这个时候就涉及到了数据同步的问题

解决方法:

1、同步方法:

当服务对MySQL进行增删改的时候,这个时候使用fegin远程调用,将所更改的数据发送到es的服务上,使得es数据得到及时的更新

优点:简单、粗暴

缺点:服务之间耦合度高,MySQL服务响应慢,必须等待es更改完成。

2、异步方法:

使用消息中间件rabbitMQ,服务进行增删改的时候将信息放到MQ,es的服务去MQ中拿到信息,去更新自己的数据

优点:耦合度低,实现难度一般

缺点:依赖MQ的可靠性

3、使用binlog

MySQL在进行增删改的时候会将操作记录到binlog上,然后在使用canal(通道)中间件,通知es发生改变,这样就会使得es数据得到更新

优点:完全接触服务之间的耦合

缺点:开启binlog增加数据库负担,实现复杂度高。

相关推荐
南鸳61011 分钟前
Spark--RDD中的转换算子
大数据·spark
程序员沉梦听雨19 分钟前
【Elasticsearch】DSL 篇
elasticsearch
古拉拉明亮之神23 分钟前
Spark处理过程--案例数据清洗
大数据·mysql·spark
Leo.yuan29 分钟前
可视化数据图表怎么做?如何实现三维数据可视化?
大数据·信息可视化·数据挖掘·数据分析·数据服务
Wnq100722 小时前
养猪场巡检机器人的设计与应用研究
大数据·人工智能·数据挖掘·机器人·巡检机器人·北京玉麟科技巡检机器人
StarRocks_labs10 小时前
从InfluxDB到StarRocks:Grab实现Spark监控平台10倍性能提升
大数据·数据库·starrocks·分布式·spark·iris·物化视图
若兰幽竹11 小时前
【Spark分析HBase数据】Spark读取并分析HBase数据
大数据·spark·hbase
R²AIN SUITE11 小时前
金融合规革命:R²AIN SUITE 如何重塑银行业务智能
大数据·人工智能
绿算技术12 小时前
“强强联手,智启未来”凯创未来与绿算技术共筑高端智能家居及智能照明领域新生态
大数据·人工智能·智能家居
只因只因爆14 小时前
spark的缓存
大数据·缓存·spark