kafka实战报错解决问题

需求

在一个在线商城中,用户下单后需要进行订单的处理。为了提高订单处理的效率和可靠性,我们使用Kafka来实现订单消息的异步处理。当用户下单后,订单信息会被发送到Kafka的一个Topic中,然后订单处理系统会从该Topic中消费订单消息,进行订单处理。

模拟数据

以下是一条模拟订单数据的JSON格式:

{

"order_id": 1,

"user_id": 1001,

"product_id": 2001,

"quantity": 1,

"amount": 100.0

}

我们可以根据这个格式生成100条模拟数据,并发送到Kafka的order_topic中进行订单处理。

要求:

1) 将模拟数据发送到kafka消息队列中

2) 接收kafka队列中的订单信息,并打印到控制台

相关知识点:kafka发送、接收消息

报错

brokerid 102-0 103-1 104-2 报错

文心一言

kafka配置文件

kafka日志查看

state-change.log 报错

Failed to elect leader for partition __consumer_offsets-27 under strategy

文心一言

网络解决办法

问题原因 新增加的副本的offset 副本的offset比leader的新 所以在elect的时候出现问题

在kafka的home path 的bin目录下 执行自带平衡topic 脚本

尝试执行命令 还是报错

解决

修改kafka配置文件server.properties

1)zookeeper修改为单机

2)num.partitions,offsets.topic.replication.factor保持为1

3)选择性将监听注释

再次启动kafka服务,开启消费者和生产者,发现生产的消息,本机无法消费到,原因应该是zookeeper目录下的_consumer_offset有问题,默认偏移量出错,导致接收不到,除非是从头消费。

将consumer_offset 删除

具体看参考

最终问题解决

参考
生产者可以顺利发送消息,消费者接受不到消息的处理方法

相关推荐
武子康18 小时前
Java-204 RabbitMQ Connection/Channel 工作流程:AMQP 发布消费、抓包帧结构与常见坑
java·分布式·消息队列·rabbitmq·ruby·java-activemq
zhz521418 小时前
代码之恋(第十五篇:分布式心跳与网络延迟)
网络·分布式·ai·重构·vue·结对编程
import_random19 小时前
[kafka]伪集群搭建,各个节点配置文件中listeners参数的配置
kafka
Lethehong19 小时前
【探索实战】Kurator分布式云原生平台快速上手与实战指南
分布式·云原生
画江湖Test19 小时前
分布式缓存穿透解决方案
分布式·缓存·电商系统·缓存解决方案
Lethehong20 小时前
【探索实战】Kurator分布式云原生平台全栈实践指南:从入门到企业级落地
分布式·云原生
Wnq1007220 小时前
在去中心化的边缘计算机集群中部署分布式 CORBA 及其AGENT
分布式·去中心化·区块链
Wang's Blog20 小时前
RabbitMQ: 解析Kubernetes原理与高可用集群部署实践
分布式·kubernetes·rabbitmq
泰克教育官方账号20 小时前
泰涨知识 | Hadoop的IO操作——压缩/解压缩
大数据·hadoop·分布式