黑马es数据同步mq解决方案

方式一:同步调用

优点:实现简单,粗暴

缺点:业务耦合度高

方式二:异步通知

优点:低耦含,实现难度一般

缺点:依赖mq的可靠性

方式三:监听binlog

优点:完全解除服务间耦合

缺点:开启binlog增加数据库负担、实现复杂度高

利用MQ实现mysql与elasticsearch数据同步

利用课前资料提供的hotel-admin项目作为酒店管理的微服务。当酒店数据发生增、删、改时,要求对elasticsearch中数据也要完成相同操作。

步骤:

导入课前资料提供的hotel-admin项目,启动并测试酒店数据的CRUD

1、声明exchange、queue、RoutingKey

@Configuration
public class MQConfig {
    @Bean
    public TopicExchange topicExchange(){
        return new TopicExchange(MqConstants.HOTEL_EXCHANGE,true,false);
    }

    @Bean
    public Queue insertQueue(){
        return new Queue(MqConstants.HOTEL_INSERT_QUEUE);
    }

    @Bean
    public Queue deleteQueue(){
        return new Queue(MqConstants.HOTEL_DELETE_QUEUE);
    }

    @Bean
    public Binding insertBinding(Queue insertQueue, TopicExchange topicExchange){
        return BindingBuilder.bind(insertQueue).to(topicExchange).with(MqConstants.HOTEL_INSERT_KEY);
    }

    @Bean
    public Binding deleteBinding(Queue deleteQueue, TopicExchange topicExchange){
        return BindingBuilder.bind(deleteQueue).to(topicExchange).with(MqConstants.HOTEL_DELETE_KEY);
    }
}

2、在hotel-admin中的增、删、改业务中完成消息发送

java 复制代码
@PostMapping
    public void saveHotel(@RequestBody Hotel hotel){
        hotelService.save(hotel);
        rabbitTemplate.convertAndSend(MqConstants.HOTEL_EXCHANGE,MqConstants.HOTEL_INSERT_KEY,hotel.getId());
    }

    @PutMapping()
    public void updateById(@RequestBody Hotel hotel){
        if (hotel.getId() == null) {
            throw new InvalidParameterException("id不能为空");
        }
        hotelService.updateById(hotel);
        rabbitTemplate.convertAndSend(MqConstants.HOTEL_EXCHANGE,MqConstants.HOTEL_INSERT_KEY,hotel.getId());
    }

    @DeleteMapping("/{id}")
    public void deleteById(@PathVariable("id") Long id) {
        hotelService.removeById(id);
        rabbitTemplate.convertAndSend(MqConstants.HOTEL_EXCHANGE,MqConstants.HOTEL_DELETE_KEY,id);
    }

3、在hotel-demo中完成消息监听,并更新elasticsearch中数据

java 复制代码
@Component
public class HotelListener {

    @Autowired
    private IHotelService iHotelService;

    /**
     * 监听酒店新增或修改
     * @param id
     */
    @RabbitListener(queues = MqConstants.HOTEL_INSERT_QUEUE)
    public void listenHotelInsertOrUpdate(Long id){
        iHotelService.insertById(id);
    }

    /**
     * 监听酒店删除
     * @param id
     */
    @RabbitListener(queues = MqConstants.HOTEL_DELETE_QUEUE)
    public void listenHotelDelete(Long id){
        iHotelService.deleteById(id);
    }
}
java 复制代码
@Override
    public void insertById(Long id) {
        try {
            //根据id查酒店数据
            Hotel hotel = getById(id);
            HotelDoc hotelDoc = new HotelDoc(hotel);//转换成文档接收的格式
            //1、准备Request对象
            IndexRequest request = new IndexRequest("hotel").id(hotelDoc.getId().toString());
            //2、准备Json文档
            request.source(JSON.toJSONString(hotelDoc),XContentType.JSON);//转换成JSON并发送
            //3、发送
            client.index(request,RequestOptions.DEFAULT);
        } catch (IOException e) {
            throw new RuntimeException(e);
        }
    }

    @Override
    public void deleteById(Long id) {
        try {
            DeleteRequest request = new DeleteRequest("hotel");
            request.id(id.toString());
            log.info("删除!"+id);
            client.delete(request,RequestOptions.DEFAULT);
        } catch (IOException e) {
            throw new RuntimeException(e);
        }
    }

4、启动并测试数据同步功能

该项目分成两个部分,一个hotel-demo,一个hotel-admin,分别代表管理端和客户端。具体同步流程即:

客户端 修改/新增/删除 某酒店时,发送id到mq对应操作的队列中,即上文的第二步

客户端监听到消息后,便同步操作es,即上文的第三步

过程收获:es和mysql一样都是数据库管理系统,只是在存储方式、数据类型等方面不一样。把这个过程理解为操作两个不同语言的数据库的同步操作,用mq作为中间件,就很好理解了。

其中插入操作是相对有点麻烦的:

复制代码
IndexRequest request = new IndexRequest("hotel").id(hotelDoc.getId().toString());

这段代码是用于创建一个索引请求(IndexRequest),用于将数据存储到名为"hotel"的Elasticsearch索引中。具体解释如下:

  1. IndexRequest("hotel"):表示要将数据索引到名为"hotel"的索引中。在Elasticsearch中,索引类似于数据库中的表,用于存储和组织数据。

  2. id(hotelDoc.getId().toString()):设置要存储的文档的唯一标识符,即文档的ID。这里使用hotelDoc对象的ID属性,并将其转换为字符串形式。在Elasticsearch中,每个文档都有一个唯一的ID,用于区分不同的文档。

综合起来,这段代码的作用是创建一个索引请求,将hotelDoc对象(可能是一个酒店文档)存储到名为"hotel"的Elasticsearch索引中,并指定文档的唯一ID。

此时如果对应id已存在数据,则覆盖

相关推荐
Lorin 洛林7 分钟前
Hadoop 系列 MapReduce:Map、Shuffle、Reduce
大数据·hadoop·mapreduce
DolphinScheduler社区22 分钟前
大数据调度组件之Apache DolphinScheduler
大数据
SelectDB技术团队23 分钟前
兼顾高性能与低成本,浅析 Apache Doris 异步物化视图原理及典型场景
大数据·数据库·数据仓库·数据分析·doris
panpantt3211 小时前
【参会邀请】第二届大数据与数据挖掘国际会议(BDDM 2024)邀您相聚江城!
大数据·人工智能·数据挖掘
青云交1 小时前
大数据新视界 -- 大数据大厂之 Impala 性能优化:跨数据中心环境下的挑战与对策(上)(27 / 30)
大数据·性能优化·impala·案例分析·代码示例·跨数据中心·挑战对策
soso19682 小时前
DataWorks快速入门
大数据·数据仓库·信息可视化
The_Ticker2 小时前
CFD平台如何接入实时行情源
java·大数据·数据库·人工智能·算法·区块链·软件工程
java1234_小锋2 小时前
Elasticsearch中的节点(比如共20个),其中的10个选了一个master,另外10个选了另一个master,怎么办?
大数据·elasticsearch·jenkins
Elastic 中国社区官方博客2 小时前
Elasticsearch 开放推理 API 增加了对 IBM watsonx.ai Slate 嵌入模型的支持
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
我的运维人生2 小时前
Elasticsearch实战应用:构建高效搜索与分析平台
大数据·elasticsearch·jenkins·运维开发·技术共享