Kafka灰度方案

一、kafka灰度方案架构设计方案:

1、外部生产-内部消费

场景:(外部生产-内部消费)

解决方案:先通过kdis分流服务---消费外部生产的消息,然后根据管理后台-灰度配置mcs-mimp-core应用默认的环境版本,如果是1.0,kdis就生产非灰度消息,如果是5.0,kdis就生产灰度消息。业务应用非灰度环境消费kdis生产的非灰度消息,业务应用灰度环境消费kdis生产的灰度消息。

业务方修改:

  1. 新申请两套生产者topic、两套消费者(一套对应灰度的、一套对应非灰度的)

  2. 在kdis服务配置给外部用的topic和新申请的两套生产者topic

  3. 修改业务应用挂载文件kafka-config.json配置

2、内部生产-内部消费

场景:(内部生产-内部消费)

解决方案:业务应用灰度环境生产灰度消息,灰度环境的其它应用消费灰度消息,业务应用非灰度环境生产非灰度消息,非灰度环境的其它应用消费非灰度消息。

业务方修改:

  1. 在原有基础上新申请一套生产者topic、一套消费者(新申请的对应灰度环境、原有的对应非灰度环境)

  2. 修改灰度环境的业务应用生产者配置文件kafka.properties和消费者配置文件kafka-config.json

3、内部生产-外部消费

场景:(内部生产-外部消费)

解决方案:由于外部的消费者不支持灰度消息,因此我们内部生产消息的应用不管是灰度环境还是非灰度环境,共用同一套topic,这样生产的消息就不区分灰度消息。

业务方改造:

不用处理

4、内部生产-内外部消费

场景:(内部生产-内外部消费)

解决方案:由于外部的消费者不支持灰度消息,因此我们内部生产消息的应用不管是灰度环境还是非灰度环境,共用同一套topic,这样生产的消息就不区分灰度消息。内部应用由于区分不同的环境消息,通过kdis分流服务---消费内部生产的消息,然后根据管理后台-灰度配置mcs-mimp-core应用默认的环境版本,如果是1.0,kdis就生产非灰度topic消息,如果是5.0,kdis就生产灰度消息。业务应用非灰度环境消费--kdis生产的非灰度topic消息,业务应用灰度环境消费--kdis生产的灰度topic消息

业务方改造:

  1. 新申请两套生产者topic(一套对应灰度的、一套对应非灰度的)

2)在kdis服务配置给外部用的topic和新申请的两套生产者topic

3)修改业务应用挂载文件kafka-config.json配置

相关推荐
Lansonli18 分钟前
大数据Spark(六十三):RDD-Resilient Distributed Dataset
大数据·分布式·spark
BYSJMG33 分钟前
计算机毕业设计选题:基于Spark+Hadoop的健康饮食营养数据分析系统【源码+文档+调试】
大数据·vue.js·hadoop·分布式·spark·django·课程设计
JAVA学习通38 分钟前
【RabbitMQ】----RabbitMQ 的7种工作模式
分布式·rabbitmq
励志成为糕手2 小时前
Hadoop进程:深入理解分布式计算引擎的核心机制
大数据·hadoop·分布式·mapreduce·yarn
掘金-我是哪吒2 小时前
分布式微服务系统架构第170集:Kafka消费者并发-多节点消费-可扩展性
分布式·微服务·架构·kafka·系统架构
何双新2 小时前
第 3 讲:KAFKA生产者(Producer)详解
分布式·kafka·linq
Heliotrope_Sun2 小时前
RabbitMQ
分布式·rabbitmq
KIDAKN3 小时前
Redis 分布式锁
数据库·redis·分布式
KIDAKN3 小时前
RabbitMQ 工作模式
分布式·rabbitmq
百思可瑞教育3 小时前
ActiveMQ、RocketMQ、RabbitMQ、Kafka 的全面对比分析
vue.js·分布式·rabbitmq·rocketmq·activemq·北京百思可瑞教育·百思可瑞教育