Kafka 单节点部署(Docker Compose + 数据持久化)

一、环境准备

1️⃣ 拉取镜像

bash 复制代码
docker pull apache/kafka:3.8.1

2️⃣ 创建数据目录

bash 复制代码
mkdir -p /opt/services-data/kafka/{data,logs}
cd /opt/services-data/kafka

3️⃣ 设置权限(⚠️必须)

bash 复制代码
chown -R 1000:1000 /opt/services-data/kafka
chmod -R 755 /opt/services-data/kafka

👉 原因:Kafka 容器默认使用 UID 1000(appuser)

二、生成 Cluster ID(KRaft 必须)

bash 复制代码
docker run --rm apache/kafka:3.8.1 \
  /opt/kafka/bin/kafka-storage.sh random-uuid

👉 示例输出:

text 复制代码
06M1KKGfRuyK7XWurAYXkA

👉 记下来,后面要用

三、编写 docker-compose.yml

yaml 复制代码
version: '3.8'
services:
  kafka:
    image: apache/kafka:3.8.1
    container_name: kafka
    restart: always
    ports:
      - "9092:9092"
      - "9093:9093"
    environment:
      KAFKA_NODE_ID: 1
      KAFKA_PROCESS_ROLES: broker,controller
      KAFKA_LISTENERS: PLAINTEXT://:9092,CONTROLLER://:9093
      KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.0.122:9092
      KAFKA_CONTROLLER_LISTENER_NAMES: CONTROLLER
      KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT
      KAFKA_CONTROLLER_QUORUM_VOTERS: 1@192.168.0.122:9093
      KAFKA_LOG_DIRS: /var/lib/kafka/data
      CLUSTER_ID: 06M1KKGfRuyK7XWurAYXkA
      # 单节点必须设置
      KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
      KAFKA_TRANSACTION_STATE_LOG_REPLICATION_FACTOR: 1
      KAFKA_TRANSACTION_STATE_LOG_MIN_ISR: 1
    volumes:
      - ./data:/var/lib/kafka/data
      - ./logs:/opt/kafka/logs

⚠️ 必改项

yaml 复制代码
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.0.122:9092

👉 改成你服务器 IP

四、启动 Kafka

bash 复制代码
docker-compose up -d

查看日志

bash 复制代码
docker logs -f kafka

成功标志

text 复制代码
Kafka Server started

五、功能验证

1️⃣ 进入容器

bash 复制代码
docker exec -it kafka bash
cd /opt/kafka/bin

2️⃣ 创建 Topic

bash 复制代码
./kafka-topics.sh \
  --create \
  --topic test \
  --bootstrap-server 192.168.0.122:9092 \
  --partitions 1 \
  --replication-factor 1

3️⃣ 启动生产者

bash 复制代码
./kafka-console-producer.sh \
  --topic test \
  --bootstrap-server 192.168.0.122:9092

输入:

text 复制代码
hello
kafka

4️⃣ 启动消费者

bash 复制代码
./kafka-console-consumer.sh \
  --topic test \
  --bootstrap-server 192.168.0.122:9092 \
  --from-beginning

👉 正常输出:

text 复制代码
hello
kafka

六、总结

text 复制代码
✔ 使用 KRaft 模式,无需 Zookeeper
✔ Docker Compose 部署简单
✔ 数据目录持久化
✔ 支持外部访问
相关推荐
仙柒41514 小时前
Docker存储原理
运维·docker·容器
快乐的哈士奇17 小时前
LangFuse 自托管实战:选型理由、Docker 部署与常用配置全解析
运维·人工智能·docker·容器
晚霞的不甘17 小时前
CANN-MoE模型推理加速实战
人工智能·分布式·python
weixin_4492900118 小时前
Docker + MySQL 在 Windows 11 上的本地安装部署文档
mysql·docker·容器
Ysn071918 小时前
中文乱码:在 Docker 容器中设置中文语言环境
运维·python·docker·容器
zxd02031119 小时前
EFK(Elasticsearch + Fluentd + Kibana) 日志收集系统
运维·docker·jenkins
终端行者19 小时前
Jenkins Pipeline 企业级用法 参数化构建+Ansible发布---上
docker·ansible·jenkins·cicd
武子康20 小时前
Java-221 RocketMQ 消息存储核心原理:CommitLog、ConsumerQueue、IndexFile 与消息过滤机制
java·大数据·分布式·消息队列·rabbitmq·rocketmq·java-rocketmq
亚空间仓鼠21 小时前
Docker容器化高可用架构部署方案(十三)
docker·容器·架构
米高梅狮子21 小时前
01.mysql的备份与恢复
运维·数据库·mysql·docker·容器·kubernetes·github