Mac m1 通过docker镜像安装kafka

kafka依赖zookeeper,因此需要使用docker同时安装zookeeper和kafka。 macOS的docker在容器和宿主之间无法通过ip直接通信,因此在安装的时候需要特殊注意与ip相关的设置。当容器需要访问宿主ip时,需要使用docker.for.mac.host.internal或者host.docker.internal代替。

zookeeper安装

拉取zookeeper镜像

powershell 复制代码
docker pull zookeeper:3.5.9

启动zookeeper,寻找需要挂载的内容

powershell 复制代码
docker run --name zookeeper3.5.9 -p 2181:2181 --restart always -d zookeeper:3.5.9

停止运行并删除容器

powershell 复制代码
docker stop zookeeper3.5.9
docker rm zookeeper3.5.9

创建挂载地址

/Users/snowsong/docker/zookeeper/data

/Users/snowsong/docker/zookeeper/conf

/Users/snowsong/docker/zookeeper/logs

在挂载地址conf下创建配置文件zoo.cfg,内容如下

powershell 复制代码
dataDir=/data
clientPort=2181
dataLogDir=/datalog
tickTime=2000
initLimit=5
syncLimit=2
autopurge.snapRetainCount=3
autopurge.purgeInterval=0
maxClientCnxns=60
standaloneEnabled=true
admin.enableServer=true
server.1=localhost:2888:3888;2181

启动镜像

powershell 复制代码
docker run -d --name zookeeper3.5.9 --privileged=true -p 2181:2181  -v /Users/snowsong/docker/zookeeper/data:/data -v /Users/snowsong/docker/zookeeper/conf:/conf -v /Users/snowsong/docker/zookeeper/logs:/datalog zookeeper:3.5.9

zookeeper到此就安装完毕啦~~~

kafka安装

拉取镜像-默认Kafka版本

powershell 复制代码
docker pull wurstmeister/kafka

启动镜像

powershell 复制代码
docker run -d --name kafka -p 9092:9092 -e KAFKA_BROKER_ID=0 -e KAFKA_ZOOKEEPER_CONNECT=172.17.0.2:2181/kafka -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://localhost:9092 -e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 wurstmeister/kafka
  • -d设置后台运行
  • --name 指定容器别名
  • -p 2181:2181绑定容器端口到宿主端口
  • -e参数可以设置docker容器内环境变量:
    • KAFKA_BROKER_ID=0 在kafka集群中,每个kafka都有一个BROKER_ID来区分自己
    • KAFKA_ZOOKEEPER_CONNECT={host-ip}:{zookeeper-port}/kafka 配置zookeeper管理kafka的路径
    • KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://{host-ip}:9092 把kafka的地址端口注册给zookeeper
    • KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 kafka监听地址

如果失败了则删除镜像重新上传,删除的shell语句为:

powershell 复制代码
docker rm kafka

测试kafka生产和消费

查看镜像信息及地址;

powershell 复制代码
docker inspect --format='{{.Name}} - {{range .NetworkSettings.Networks}}{{.IPAddress}}{{end}}' $(docker ps -aq) | sed 's#^/##'


生产测试消息

powershell 复制代码
echo "test-message" | docker exec -i kafka /opt/kafka/bin/kafka-console-producer.sh \
  --broker-list 172.17.0.3:9092 \
  --topic test-topic

消费测试消息

powershell 复制代码
docker exec kafka /opt/kafka/bin/kafka-console-consumer.sh \
  --bootstrap-server 172.17.0.3:9092 \
  --topic test-topic \
  --from-beginning
相关推荐
CodeMartain2 小时前
Dify Windows 原生部署(无 Docker、纯本地)
运维·docker·容器
llrraa20104 小时前
配置docker国内镜像源
运维·docker·容器
华为云开发者联盟5 小时前
告别繁琐操作,华为云码道 + Docker重塑远程开发体验
人工智能·学习·docker·华为云·软件开发·华为云码道
m_136876 小时前
Docker Desktop WSL2 启动失败:ext4.vhdx 拒绝访问(E_ACCESSDENIED)完整解决方案
docker
米高梅狮子7 小时前
Ceph 分布式存储 部署
linux·运维·数据库·分布式·ceph·docker·华为云
喝醉酒的小白8 小时前
Kafka 集群应急故障排查手册
分布式·kafka
无籽西瓜a8 小时前
【西瓜带你学Kafka | 第八期】 Kafka的主从同步、消息可靠性、流处理与顺序消费(文含图解)
java·分布式·后端·kafka·消息队列·mq
qqVHU8 小时前
kafka笔记
笔记·分布式·kafka
醉颜凉8 小时前
Kafka 消息过期时间设置与清理机制全解析
分布式·kafka·linq
Jinkxs8 小时前
SkyWalking - Kafka _ RabbitMQ 消息链路追踪支持
kafka·rabbitmq·skywalking