Kafka灰度方案

一、kafka灰度方案架构设计方案:

1、外部生产-内部消费

场景:(外部生产-内部消费)

解决方案:先通过kdis分流服务---消费外部生产的消息,然后根据管理后台-灰度配置mcs-mimp-core应用默认的环境版本,如果是1.0,kdis就生产非灰度消息,如果是5.0,kdis就生产灰度消息。业务应用非灰度环境消费kdis生产的非灰度消息,业务应用灰度环境消费kdis生产的灰度消息。

业务方修改:

  1. 新申请两套生产者topic、两套消费者(一套对应灰度的、一套对应非灰度的)

  2. 在kdis服务配置给外部用的topic和新申请的两套生产者topic

  3. 修改业务应用挂载文件kafka-config.json配置

2、内部生产-内部消费

场景:(内部生产-内部消费)

解决方案:业务应用灰度环境生产灰度消息,灰度环境的其它应用消费灰度消息,业务应用非灰度环境生产非灰度消息,非灰度环境的其它应用消费非灰度消息。

业务方修改:

  1. 在原有基础上新申请一套生产者topic、一套消费者(新申请的对应灰度环境、原有的对应非灰度环境)

  2. 修改灰度环境的业务应用生产者配置文件kafka.properties和消费者配置文件kafka-config.json

3、内部生产-外部消费

场景:(内部生产-外部消费)

解决方案:由于外部的消费者不支持灰度消息,因此我们内部生产消息的应用不管是灰度环境还是非灰度环境,共用同一套topic,这样生产的消息就不区分灰度消息。

业务方改造:

不用处理

4、内部生产-内外部消费

场景:(内部生产-内外部消费)

解决方案:由于外部的消费者不支持灰度消息,因此我们内部生产消息的应用不管是灰度环境还是非灰度环境,共用同一套topic,这样生产的消息就不区分灰度消息。内部应用由于区分不同的环境消息,通过kdis分流服务---消费内部生产的消息,然后根据管理后台-灰度配置mcs-mimp-core应用默认的环境版本,如果是1.0,kdis就生产非灰度topic消息,如果是5.0,kdis就生产灰度消息。业务应用非灰度环境消费--kdis生产的非灰度topic消息,业务应用灰度环境消费--kdis生产的灰度topic消息

业务方改造:

  1. 新申请两套生产者topic(一套对应灰度的、一套对应非灰度的)

2)在kdis服务配置给外部用的topic和新申请的两套生产者topic

3)修改业务应用挂载文件kafka-config.json配置

相关推荐
PingCAP1 小时前
善战者无赫赫之功:消费金融核心系统的数据库选型与升级路径
数据库·分布式·架构
库库的数据库笔记2 小时前
金融核心交易系统的数据库国产信创改造该如何做?
大数据·数据库·分布式·mysql·oracle·金融·数据库架构
RobinXYuan6 小时前
【Kafka 源码手记】04 客户端如何找到 Broker
kafka·源码阅读
爱吃火鸡面呀8 小时前
深入理解 Spark RDD:五大特性与实战解析
大数据·分布式·spark
Linux实战笔记9 小时前
记一次消息队列选型对比线上排查:Kafka/RabbitMQ/Pulsar 技术选型
kafka·rabbitmq·高并发·pulsar·消息队列选型
Norris Huang10 小时前
Kafka Connect 与 Flink CDC 写入 Iceberg:Upsert 的代价,以及 S3 Tables 的真正价值
分布式·flink·kafka
张彦峰ZYF10 小时前
一条消息的丢与重:Kafka 与 RabbitMQ 可靠投递的确认、位点、死信与幂等全链路
后端·kafka·消息队列·rabbitmq·isr·解耦与削峰·丢失与重复
我就是不信10 小时前
集群高并发环境下如何保证分布式唯一全局ID生成?
分布式
黄俊懿1 天前
【架构师从入门到进阶】第六章:服务集群优化——第八节:线程数公式
java·服务器·数据库·分布式·性能优化·架构·系统架构
大菠萝爱上小西瓜1 天前
基于 Spark + Iceberg 湖仓一体的 Netflix 流媒体用户行为全链路数仓与 ALS 智能推荐决策系统(含穿透下钻大屏)
大数据·分布式·spark