Apache Kafka Docker容器外连接踩坑一则

第一次接触 Kafka,想要写个 Demo 测试一下,就用 Docker 直接在本地部署了一个,测试的时候踩了个坑:默认配置下从容器外没法连接到容器内部。记录一下解决过程。

部署和配置

使用的是镜像是 bitnami/kafka:latest,运行容器的命令如下:

shellscript 复制代码
docker run -d --name kafka \
    --network kafka \
    -v kafka:/bitnami/kafka \
    -p 9092:9092 \
    -e TZ=Asia/Shanghai \
    -e ALLOW_PLAINTEXT_LISTENER=yes \
    -e KAFKA_CFG_AUTO_CREATE_TOPICS_ENABLE=true \
    bitnami/kafka:latest

同时我还用 provectuslabs/kafka-ui:latest 镜像部署了一个 Kafka UI 用来可视化管理,接入了 kafka 容器网络。

org.springframework.kafka:spring-kafka 集成到 Spring Boot 中,连接配置如下:

yaml 复制代码
spring:
  kafka:
    bootstrap-servers:
      - "localhost:9092"

运行和排错

在 kafka-ui 中确认连接成功后,我尝试在其中连接 Kafka 节点,连接成功。

然后 bootRun ------ 运行报错: 看到连接错误,我首先想到是不是 Kafka 本身没有拉起来,于是我在面板中尝试收发消息,全部成功了。

看到日志中的 UnknownHostException: ec79ba9450e3,于是我猜和容器有关系。已知 Docker 本身应该没什么问题,于是去 Docker Hub 上仔细阅读了一下 bitnami/kafka 镜像的 Overview,发现了: 我查了一下 Kafka 的文档,大概是:需要通过配置 advertised.listeners 来告知客户端需要连接的 Kafka 地址,否则客户端就会像我上面一样试图去连接 ec79ba9450e3:9092 这个地址,而 ec79ba9450e3 这个主机名在宿主机中当然是未知的主机名,所以就会导致连接异常。

解决方案

如上文中镜像 Overview 中所写的一样,添加如下的三条环境变量:

ruby 复制代码
KAFKA_CFG_LISTENERS=PLAINTEXT://:9092,CONTROLLER://:9093,EXTERNAL://:9094
KAFKA_CFG_ADVERTISED_LISTENERS=PLAINTEXT://kafka:9092,EXTERNAL://localhost:9094
KAFKA_CFG_LISTENER_SECURITY_PROTOCOL_MAP=CONTROLLER:PLAINTEXT,EXTERNAL:PLAINTEXT,PLAINTEXT:PLAINTEXT

然后暴露容器端口9094,将应用的 spring.kafka.bootstrap-servers 一项从 "localhost:9092" 改为 "localhost:9094" ,连接成功!

后记

由于我的应用本身实际上也是跑在容器里的,所以只需要像上面的 kafka-ui 一样和 Kafka 组到同一个 Docker 网络里就行了,以上配置实际上是不需要的,Docker 部署的情况下只有需要容器外连接 Kafka 才需要配置这些。


如果上文中有任何地方写的有问题的话欢迎指出,如果觉得有用的话还请点个赞!QwQ

相关推荐
milanyangbo12 小时前
从硬盘I/O到网络传输:Kafka与RocketMQ读写模型及零拷贝技术深度对比
java·网络·分布式·架构·kafka·rocketmq
GEM的左耳返12 小时前
Java面试实战:从Spring Boot到AI集成的技术深度挑战
spring boot·redis·微服务·kafka·java面试·spring ai·缓存优化
写bug的小屁孩12 小时前
主流消息队列(MQ)和技术选型
kafka·java-rocketmq·java-rabbitmq
java1234_小锋13 小时前
Kafka与RabbitMQ相比有什么优势?
分布式·kafka·rabbitmq
yumgpkpm13 小时前
腾讯TBDS和CMP(Cloud Data AI Platform,类Cloudera CDP,如华为鲲鹏 ARM 版)比较的缺陷在哪里?
hive·hadoop·elasticsearch·zookeeper·oracle·kafka·hbase
码农很忙15 小时前
如何选择合适的 Diskless Kafka
分布式·kafka
北京聚信万通科技有限公司15 小时前
易连EDI-EasyLink无缝集成之消息队列Kafka
kafka·edi·国产自研·easylink
java1234_小锋16 小时前
Kafka中的消费者偏移量是如何管理的?
分布式·kafka
笨蛋少年派16 小时前
Kafka分布式流处理平台简介
分布式·kafka
路边草随风16 小时前
flink 1.18 cdc 2.4.2 读 mysql binlog 写 kafka jar版本依赖
mysql·flink·kafka