微服务—ES数据同步

目录

数据同步

问题分析

[方案1. 同步调用](#方案1. 同步调用)

[方案2. 异步通知](#方案2. 异步通知)

[方案3. 监听binlog​编辑](#方案3. 监听binlog编辑)

各方案对比

案例------利用MQ实现数据同步

[步骤1. 导入hotel-admin项目](#步骤1. 导入hotel-admin项目)

[步骤2. 声明交换机、队列](#步骤2. 声明交换机、队列)

[步骤3. 发送MQ消息](#步骤3. 发送MQ消息)

[步骤4. 接收MQ消息](#步骤4. 接收MQ消息)

[步骤5. 测试同步功能](#步骤5. 测试同步功能)


数据同步

elasticsearch中的数据是由我们通过mysql数据进行导入的,因此mysql数据发生改变时,elasticsearch中的数据也必须跟着改变,这就是elasticsearch与mysql之间的数据同步


问题分析

在微服务中,负责酒店管理(操作mysql)的业务与负责酒店搜索(操作elasticsearch)的业务可能在两个不同的微服务上,那么数据同步该如何实现呢?

方案1. 同步调用

基本步骤:

hotel-demo对外提供接口,用来修改elasticsearch中的数据,酒店管理服务在完成数据库操作后,直接调用hotel-demo提供的接口。


方案2. 异步通知

基本步骤:

hotel-admin对mysql数据库数据完成增、删、改后,发送MQ消息,hotel-demo监听MQ,接收到消息后完成elasticsearch数据修改。


方案3. 监听binlog

基本步骤:

给mysql开启binlog功能,mysql完成增、删、改操作都会记录在binlog中,hotel-demo基于canal监听binlog变化,实时更新elasticsearch中的内容。


各方案对比

方案一:同步调用

优点:实现简单,粗暴

缺点:业务耦合度高

方案二:异步通知

优点:低耦合,实现难度一般

缺点:依赖mq的可靠性

方案三:监听binlog

优点:完全解除服务间耦合

缺点:开启binlog增加数据库负担、实现复杂度高


案例------利用MQ实现数据同步

利用课前资料提供的hotel-admin项目作为酒店管理的微服务。当酒店数据发生增、删、改时,要求对elasticsearch中的数据也要完成相同操作。


步骤1. 导入hotel-admin项目

导入课前资料提供的hotel-admin项目,注意修改数据库配置为本地数据库,运行并访问http://localhost:8099进入管理界面。

项目中包含了酒店的CRUD功能:


步骤2. 声明交换机、队列

MQ结构如图:

在hotel-admin、hotel-demo项目中做以下4步

1. 引入rabbitmq的依赖:

XML 复制代码
<!--amqp-->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>

2. 设置rabbitmq配置:

3. 设置队列与交换机名称常量:

java 复制代码
package cn.itcast.hotel.constants;

public class MqConstants {
    /**
     * 交换机
     */
    public final static String HOTEL_EXCHANGE = "hotel.topic";
    /**
     * 监听新增和修改的队列
     */
    public final static String HOTEL_INSERT_QUEUE = "hotel.insert.queue";
    /**
     * 监听删除的队列
     */
    public final static String HOTEL_DELETE_QUEUE = "hotel.delete.queue";
    /**
     * 新增或修改的RoutingKey
     */
    public final static String HOTEL_INSERT_KEY = "hotel.insert";
    /**
     * 删除的RoutingKey
     */
    public final static String HOTEL_DELETE_KEY = "hotel.delete";
}

4. 声明队列与交换机名称:

队列与交换机的声明可以采用注解或者bean的方式,这里采用bean的方式进行声明。

XML 复制代码
package cn.itcast.hotel.config;

import cn.itcast.hotel.constants.MqConstants;
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.TopicExchange;
import org.springframework.amqp.core.Queue;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class MqConfig {
    @Bean
    public TopicExchange topicExchange(){
        return new TopicExchange(MqConstants.HOTEL_EXCHANGE, true, false);
    }

    @Bean
    public Queue insertQueue(){
        return new Queue(MqConstants.HOTEL_INSERT_QUEUE, true);
    }

    @Bean
    public Queue deleteQueue(){
        return new Queue(MqConstants.HOTEL_DELETE_QUEUE, true);
    }

    @Bean
    public Binding insertQueueBinding(){
        return BindingBuilder.bind(insertQueue()).to(topicExchange()).with(MqConstants.HOTEL_INSERT_KEY);
    }

    @Bean
    public Binding deleteQueueBinding(){
        return BindingBuilder.bind(deleteQueue()).to(topicExchange()).with(MqConstants.HOTEL_DELETE_KEY);
    }
}

步骤3. 发送MQ消息

在hotel-admin中的增、删、改业务中分别设置MQ消息发送


步骤4. 接收MQ消息

hotel-demo接收到MQ消息要做的事情包括:

新增消息:根据传递的hotel的id查询hotel信息,然后新增一条数据到索引库

删除消息:根据传递的hotel的id删除索引库中的一条数据

1. 首先在hotel-demo的cn.itcast.hotel.service包下的IHotelService中新增新增、删除业务

java 复制代码
void deleteById(Long id);

void insertById(Long id);

2. 给hotel-demo中的cn.itcast.hotel.service.impl包下的HotelService中实现业务

java 复制代码
@Override
public void deleteById(Long id) {
    try {
        // 1.准备Request
        DeleteRequest request = new DeleteRequest("hotel", id.toString());
        // 2.发送请求
        client.delete(request, RequestOptions.DEFAULT);
    } catch (IOException e) {
        throw new RuntimeException(e);
    }
}

@Override
public void insertById(Long id) {
    try {
        // 0.根据id查询酒店数据
        Hotel hotel = getById(id);
        // 转换为文档类型
        HotelDoc hotelDoc = new HotelDoc(hotel);

        // 1.准备Request对象
        IndexRequest request = new IndexRequest("hotel").id(hotel.getId().toString());
        // 2.准备Json文档
        request.source(JSON.toJSONString(hotelDoc), XContentType.JSON);
        // 3.发送请求
        client.index(request, RequestOptions.DEFAULT);
    } catch (IOException e) {
        throw new RuntimeException(e);
    }
}

3. 编写监听器,在hotel-demo中的cn.itcast.hotel.mq包新增一个类

java 复制代码
package cn.itcast.hotel.mq;

import cn.itcast.hotel.constants.MqConstants;
import cn.itcast.hotel.service.IHotelService;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

@Component
public class HotelListener {

    @Autowired
    private IHotelService hotelService;

    /**
     * 监听酒店新增或修改的业务
     * @param id 酒店id
     */
    @RabbitListener(queues = MqConstants.HOTEL_INSERT_QUEUE)
    public void listenHotelInsertOrUpdate(Long id){
        hotelService.insertById(id);
    }

    /**
     * 监听酒店删除的业务
     * @param id 酒店id
     */
    @RabbitListener(queues = MqConstants.HOTEL_DELETE_QUEUE)
    public void listenHotelDelete(Long id){
        hotelService.deleteById(id);
    }
}

步骤5. 测试同步功能

  1. 重启消息接收方和消息发送方

(记录一个小bug:在mq消息监听类上忘记添加注解@Component,导致一开始没有监听到消息)

2.在旅游页面可以发现上海希尔顿酒店价格为2680

3.在酒店管理页面将该酒店的价格重新设置为3000

4.重新回到旅游页面搜索该酒店,可以发现价格发生变化,证明数据同步成功。(删除功能同理)

相关推荐
武子康14 分钟前
大数据-259 离线数仓 - Griffin架构 修改配置 pom.xml sparkProperties 编译启动
xml·java·大数据·hive·hadoop·架构
2401_857617621 小时前
“无缝购物体验”:跨平台网上购物商城的设计与实现
java·开发语言·前端·安全·架构·php
思忖小下2 小时前
梳理你的思路(从OOP到架构设计)_介绍GoF设计模式
设计模式·架构·eit
喝醉酒的小白2 小时前
ElasticSearch 的核心功能
大数据·elasticsearch·jenkins
秀儿y2 小时前
单机服务和微服务
java·开发语言·微服务·云原生·架构
hu_yuchen2 小时前
从单机到微服务的转型之路
redis·mysql·微服务
向上的车轮6 小时前
云边端架构的优势是什么?面临哪些挑战?
架构·云边端
FHYAAAX7 小时前
灾备方案和架构类型、跨区域
架构·华为云
北京_宏哥7 小时前
python接口自动化(四十二)- 项目架构设计之大结局(超详解)
python·架构·前端框架
forestsea7 小时前
【Elasticsearch】分片与副本机制:优化数据存储与查询性能
大数据·elasticsearch·搜索引擎