kafka验证消息时报错

问题

bash 复制代码
./kafka-console-consumer.sh --bootstrap-server 192.168.1.190:9092 --consumer.config /usr/local/kafka/config/sasl-consumer.properties --topic COMMAND_RESP --from-beginning --group KAFKA_CONSUMER_GROUP_ID
bash 复制代码
[root@drone-upms bin]# ./kafka-console-consumer.sh --bootstrap-server 192.168.1.190:9092 --consumer.config /usr/local/kafka/config/sasl-consumer.properties --topic COMMAND_RESP --from-beginning --group KAFKA_CONSUMER_GROUP_ID
[2025-11-17 13:46:23,640] WARN [Consumer clientId=console-consumer, groupId=KAFKA_CONSUMER_GROUP_ID] Error while fetching metadata with correlation id 2 : {COMMAND_RESP=TOPIC_AUTHORIZATION_FAILED} (org.apache.kafka.clients.NetworkClient)
[2025-11-17 13:46:23,641] ERROR [Consumer clientId=console-consumer, groupId=KAFKA_CONSUMER_GROUP_ID] Topic authorization failed for topics [COMMAND_RESP] (org.apache.kafka.clients.Metadata)
[2025-11-17 13:46:23,642] ERROR Error processing message, terminating consumer process:  (kafka.tools.ConsoleConsumer$)
org.apache.kafka.common.errors.TopicAuthorizationException: Not authorized to access topics: [COMMAND_RESP]
Processed a total of 0 messages

解决

查看元数据,发现topic不存在

bash 复制代码
[root@drone-upms bin]# ./kafka-topics.sh --bootstrap-server 192.168.1.190:9092 \
>   --command-config /usr/local/kafka/config/sasl-admin.properties \
>   --describe --topic COMMAND_RESP
Error while executing topic command : Topic 'COMMAND_RESP' does not exist as expected
[2025-11-17 14:02:17,904] ERROR java.lang.IllegalArgumentException: Topic 'COMMAND_RESP' does not exist as expected
	at kafka.admin.TopicCommand$.kafka$admin$TopicCommand$$ensureTopicExists(TopicCommand.scala:401)
	at kafka.admin.TopicCommand$TopicService.describeTopic(TopicCommand.scala:313)
	at kafka.admin.TopicCommand$.main(TopicCommand.scala:61)
	at kafka.admin.TopicCommand.main(TopicCommand.scala)
 (kafka.admin.TopicCommand$)

重建主题(若ZooKeeper中缺失)

强制删除残留的ACL并重新创建主题:

复制代码
(我这里只创建主题就行了,其它情况可能要删除ACL)
bash 复制代码
# 删除所有残留的ACL(谨慎操作!)
./kafka-acls.sh --bootstrap-server 192.168.1.190:9092 \
  --command-config /usr/local/kafka/config/sasl-admin.properties \
  --remove --allow-principal User:* --topic COMMAND_RESP --all

# 重新创建主题(确保副本数和分区数合理)
./kafka-topics.sh --bootstrap-server 192.168.1.190:9092 \
  --command-config /usr/local/kafka/config/sasl-admin.properties \
  --create --topic COMMAND_RESP \
  --partitions 1 --replication-factor 1
修复ZooKeeper元数据(若节点存在但损坏)
bash 复制代码
# 删除损坏的节点
rmr /brokers/topics/COMMAND_RESP

# 重新创建主题(触发ZooKeeper元数据同步)
./kafka-topics.sh --bootstrap-server 192.168.1.190:9092 \
  --command-config /usr/local/kafka/config/sasl-admin.properties \
  --create --topic COMMAND_RESP \
  --partitions 1 --replication-factor 1
相关推荐
阿里云云原生4 天前
数据链路再精简:Kafka 如何做到“零 ETL”一键写入 Apache Iceberg?
kafka
阿里云云原生10 天前
告别冗长链路!Kafka × Table Bucket 实现开放表格式零 ETL 实时入湖
云原生·kafka
风吹夏回16 天前
RabbitMQ 核心术语 + Python pika 方法完整讲解
分布式·python·rabbitmq
风吹夏回16 天前
RabbitMQ 三种模式入门:HelloWorld、WorkQueue、PubSub
分布式·rabbitmq·ruby
霸道流氓气质16 天前
分布式追踪与 RequestId 传播完全指南
分布式
cheems952716 天前
[RabbitMQ高级特性] 消息确认机制:从 Ready / Unacked 到 basicAck、basicReject、basicNack 的底层拆解
分布式·rabbitmq·ruby
whaledown16 天前
Kafka 与 Java 消息队列入门:用订单场景理解核心机制
java·kafka·消息队列·springboot
枫华落尽16 天前
【Hadoop01-完全分布式运行模式】
分布式
隔壁阿布都16 天前
ShedLock 分布式定时任务锁框架介绍
spring boot·分布式
文艺倾年16 天前
【强化学习】数学推导专题,20W字总结(十五)
人工智能·分布式·大模型·强化学习·vibecoding