kafka-2.12使用记录

kafka-2.12使用记录

安装kafka 2.12版本

下载安装包

复制代码
根据你的系统下载rpm /deb /zip包等等, 这里我使用的是rpm包
安装命令 rpm -ivh kafka-2.12-1.nfs.x86_64.rpm

启动内置Zookeeper

以下命令要写在同一行上

复制代码
/opt/kafka-2.12/bin/zookeeper-server-start.sh 
/opt/kafka-2.12/config/zookeeper.properties

启动kafka服务器

以下命令要写在同一行上

复制代码
/opt/kafka-2.12/bin/kafka-server-start.sh
/opt/kafka-2.12/config/server.properties

使用kafka

创建和查看topic

创建一个单 partition分区,单 replication副本 的叫 topic2023 的主题

复制代码
/opt/kafka-2.12/bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1  --partitions 1 --topic topic2023

查看topic列表

复制代码
/opt/kafka-2.12/bin/kafka-topics.sh --list --bootstrap-server localhost:9092

创建1个消息生产者

命令输入完后,可以继续输入 多行要发送的消息内容

复制代码
/opt/kafka-2.12/bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic topic2023

创建1个消息消费者

命令输入完成后回车,可以看到控制台显示出订阅到的消息内容

复制代码
/opt/kafka-2.12/bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topic2023 --from-beginning

配置kafka允许外网访问

需要进入config目录,修改server.properties文件里的配置

修改listeners配置项

listeners指定kafka监听的本地地址和端口,这里配置为0.0.0.0:9092表示监听所有网络接口

复制代码
listeners = PLAINTEXT://0.0.0.0:9092

修改advertised.listeners配置项

advertised.listeners是用于向客户端公布你的kafka访问地址,需要配置为你的机器的外部IP和端口

复制代码
advertised.listeners=PLAINTEXT://10.1.5.212:9092

测试zookeeper联通性

可以使用prettyZoo客户端工具测试访问zk服务器

使用kafkaUI-lite在线浏览和测试kafka

什么是kafkaUI-lite

复制代码
kafka-ui-lite是一个开源的kafka监控项目,可以在gitee下载.
提供了对kafka 、zookeeper 、redis的监控和管理功能,
支持在线浏览和管理kafka的 topic主题/kafka集群/group分组
支持在线发送kafka消息

使用kafkaUI-lite查看topic

使用kafkaUI-lite创建topic

使用kafkaUI-lite发送消息

使用kafkaUI-lite查看zookeeper信息

相关推荐
Norris Huang40 分钟前
Kafka Connect 与 Flink CDC 写入 Iceberg:Upsert 的代价,以及 S3 Tables 的真正价值
分布式·flink·kafka
张彦峰ZYF1 小时前
一条消息的丢与重:Kafka 与 RabbitMQ 可靠投递的确认、位点、死信与幂等全链路
后端·kafka·消息队列·rabbitmq·isr·解耦与削峰·丢失与重复
我就是不信1 小时前
集群高并发环境下如何保证分布式唯一全局ID生成?
分布式
黄俊懿1 天前
【架构师从入门到进阶】第六章:服务集群优化——第八节:线程数公式
java·服务器·数据库·分布式·性能优化·架构·系统架构
大菠萝爱上小西瓜1 天前
基于 Spark + Iceberg 湖仓一体的 Netflix 流媒体用户行为全链路数仓与 ALS 智能推荐决策系统(含穿透下钻大屏)
大数据·分布式·spark
吴建旭 智宅焕1 天前
智能家居售后服务体系的架构设计:分布式售后风险的集中式兜底方案
分布式·智能家居
lisanmengmeng1 天前
Ganglia分布式集群监控系统安装手册
分布式
我不会起名字3222 天前
Kafka 分区数到底设几个:吞吐量、顺序性与 rebalance 代价的取舍
kafka·消息队列·调优·分区
Smoothcloud润云2 天前
GPU算力平台推荐:新手租GPU时,镜像环境和显存应该怎么选?
大数据·人工智能·pytorch·分布式·深度学习·gpu算力
程序员大阳2 天前
副队长大数据教程(6)--四节点分布式集群搭建
大数据·分布式·集群·搭建·四节点