Kafka 单节点部署(Docker Compose + 数据持久化)

一、环境准备

1️⃣ 拉取镜像

bash 复制代码
docker pull apache/kafka:3.8.1

2️⃣ 创建数据目录

bash 复制代码
mkdir -p /opt/services-data/kafka/{data,logs}
cd /opt/services-data/kafka

3️⃣ 设置权限(⚠️必须)

bash 复制代码
chown -R 1000:1000 /opt/services-data/kafka
chmod -R 755 /opt/services-data/kafka

👉 原因:Kafka 容器默认使用 UID 1000(appuser)

二、生成 Cluster ID(KRaft 必须)

bash 复制代码
docker run --rm apache/kafka:3.8.1 \
  /opt/kafka/bin/kafka-storage.sh random-uuid

👉 示例输出:

text 复制代码
06M1KKGfRuyK7XWurAYXkA

👉 记下来,后面要用

三、编写 docker-compose.yml

yaml 复制代码
version: '3.8'
services:
  kafka:
    image: apache/kafka:3.8.1
    container_name: kafka
    restart: always
    ports:
      - "9092:9092"
      - "9093:9093"
    environment:
      KAFKA_NODE_ID: 1
      KAFKA_PROCESS_ROLES: broker,controller
      KAFKA_LISTENERS: PLAINTEXT://:9092,CONTROLLER://:9093
      KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.0.122:9092
      KAFKA_CONTROLLER_LISTENER_NAMES: CONTROLLER
      KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT
      KAFKA_CONTROLLER_QUORUM_VOTERS: 1@192.168.0.122:9093
      KAFKA_LOG_DIRS: /var/lib/kafka/data
      CLUSTER_ID: 06M1KKGfRuyK7XWurAYXkA
      # 单节点必须设置
      KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
      KAFKA_TRANSACTION_STATE_LOG_REPLICATION_FACTOR: 1
      KAFKA_TRANSACTION_STATE_LOG_MIN_ISR: 1
    volumes:
      - ./data:/var/lib/kafka/data
      - ./logs:/opt/kafka/logs

⚠️ 必改项

yaml 复制代码
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.0.122:9092

👉 改成你服务器 IP

四、启动 Kafka

bash 复制代码
docker-compose up -d

查看日志

bash 复制代码
docker logs -f kafka

成功标志

text 复制代码
Kafka Server started

五、功能验证

1️⃣ 进入容器

bash 复制代码
docker exec -it kafka bash
cd /opt/kafka/bin

2️⃣ 创建 Topic

bash 复制代码
./kafka-topics.sh \
  --create \
  --topic test \
  --bootstrap-server 192.168.0.122:9092 \
  --partitions 1 \
  --replication-factor 1

3️⃣ 启动生产者

bash 复制代码
./kafka-console-producer.sh \
  --topic test \
  --bootstrap-server 192.168.0.122:9092

输入:

text 复制代码
hello
kafka

4️⃣ 启动消费者

bash 复制代码
./kafka-console-consumer.sh \
  --topic test \
  --bootstrap-server 192.168.0.122:9092 \
  --from-beginning

👉 正常输出:

text 复制代码
hello
kafka

六、总结

text 复制代码
✔ 使用 KRaft 模式,无需 Zookeeper
✔ Docker Compose 部署简单
✔ 数据目录持久化
✔ 支持外部访问
相关推荐
java_logo6 小时前
Apache Doris Docker 部署指南:实时分析数据库实战
数据库·docker·apache·doris·apache doris·轩辕镜像·docker部署doris
wWYy.17 小时前
分布式:数据复制
分布式
生活爱好者!19 小时前
我把NAS当作下载机,docker一键部署qb
运维·docker·容器
java_logo20 小时前
Docker Compose 部署 ClickHouse:快速搭建高性能列式数据库
数据库·clickhouse·docker·列式数据库·轩辕镜像·高性能数据库·clickhouse部署教程
MC皮蛋侠客20 小时前
uv 系列(七):CI/CD、Docker 与私有索引——生产级交付
python·ci/cd·docker·uv
用户233376852181 天前
Docker 端口"时通时不通"的排查实战
docker
正儿八经的少年1 天前
分布式 ID
分布式
做个文艺程序员1 天前
Linux第22篇:用Docker容器化你的Java SaaS应用:一次构建,随处运行
java·docker·容器
ShiXZ2131 天前
Redis docker-compose 部署指南
redis·docker·eureka
七夜zippoe1 天前
深入解析CANN仓库中的HCCL分布式通信库
pytorch·分布式·cann·hccl·通信库