kafka-2.12使用记录

kafka-2.12使用记录

安装kafka 2.12版本

下载安装包

复制代码
根据你的系统下载rpm /deb /zip包等等, 这里我使用的是rpm包
安装命令 rpm -ivh kafka-2.12-1.nfs.x86_64.rpm

启动内置Zookeeper

以下命令要写在同一行上

复制代码
/opt/kafka-2.12/bin/zookeeper-server-start.sh 
/opt/kafka-2.12/config/zookeeper.properties

启动kafka服务器

以下命令要写在同一行上

复制代码
/opt/kafka-2.12/bin/kafka-server-start.sh
/opt/kafka-2.12/config/server.properties

使用kafka

创建和查看topic

创建一个单 partition分区,单 replication副本 的叫 topic2023 的主题

复制代码
/opt/kafka-2.12/bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1  --partitions 1 --topic topic2023

查看topic列表

复制代码
/opt/kafka-2.12/bin/kafka-topics.sh --list --bootstrap-server localhost:9092

创建1个消息生产者

命令输入完后,可以继续输入 多行要发送的消息内容

复制代码
/opt/kafka-2.12/bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic topic2023

创建1个消息消费者

命令输入完成后回车,可以看到控制台显示出订阅到的消息内容

复制代码
/opt/kafka-2.12/bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topic2023 --from-beginning

配置kafka允许外网访问

需要进入config目录,修改server.properties文件里的配置

修改listeners配置项

listeners指定kafka监听的本地地址和端口,这里配置为0.0.0.0:9092表示监听所有网络接口

复制代码
listeners = PLAINTEXT://0.0.0.0:9092

修改advertised.listeners配置项

advertised.listeners是用于向客户端公布你的kafka访问地址,需要配置为你的机器的外部IP和端口

复制代码
advertised.listeners=PLAINTEXT://10.1.5.212:9092

测试zookeeper联通性

可以使用prettyZoo客户端工具测试访问zk服务器

使用kafkaUI-lite在线浏览和测试kafka

什么是kafkaUI-lite

复制代码
kafka-ui-lite是一个开源的kafka监控项目,可以在gitee下载.
提供了对kafka 、zookeeper 、redis的监控和管理功能,
支持在线浏览和管理kafka的 topic主题/kafka集群/group分组
支持在线发送kafka消息

使用kafkaUI-lite查看topic

使用kafkaUI-lite创建topic

使用kafkaUI-lite发送消息

使用kafkaUI-lite查看zookeeper信息

相关推荐
方二华2 小时前
分布式队列对消息语义的处理
分布式·kafka·rocketmq
API_technology3 小时前
《淘宝 API 数据湖构建:实时商品详情入湖 + Apache Kafka 流式处理指南》
数据库·分布式·数据挖掘·kafka·apache
晓看云起时4 小时前
kafka消息的顺序性如何保持一致的
分布式·kafka
凉白开3384 小时前
Spark-streaming
大数据·分布式·spark
佳腾_5 小时前
【分布式系统中的“瑞士军刀”_ Zookeeper】三、Zookeeper 在实际项目中的应用场景与案例分析
分布式·zookeeper·云原生
lix的小鱼7 小时前
如何搭建spark yarn模式的集群
大数据·分布式·spark
冼紫菜7 小时前
[特殊字符] Docker 从入门到实战:全流程教程 + 项目部署指南(含镜像加速)
运维·分布式·后端·docker·云原生·容器
智汇优库8 小时前
Rabbitmq下载和安装(Windows系统,百度网盘)
windows·分布式·rabbitmq
£菜鸟也有梦9 小时前
Hadoop进阶之路
大数据·hadoop·分布式
Hfc.11 小时前
es+kibana---集群部署
elasticsearch·kafka·jenkins