Kafka环境搭建与相关启动命令

一、Kafka环境搭建

点击下载kafka_2.11-2.3.1.tgz文件链接

1、上传kafka_2.11-2.3.1.tgz,解压kafka_2.11-2.3.1.tgz,得到kafka_2.11-2.3.1文件夹

1)上传

#使用mobaxterm将 kafka_2.11-2.3.1.tgz 传入tools文件夹

#用下面代码进入tools文件夹

bash 复制代码
cd /tools

#查看传入成功没

bash 复制代码
ll
2)解压到training文件夹
bash 复制代码
tar -zxvf kafka_2.11-2.3.1.tgz -C /training
bash 复制代码
cd /training

2、 kafka需要安装zookeeper使用,但kafka集成zookeeper,在单机搭建时可直接使用。使用需配置kafka_2.11-2.3.1/config 下的"zookeeper.properties"

bash 复制代码
cd kafka_2.11-2.3.1/config

3、配置"zookeeper.properties"。修改dataDir和clientPort。前者是快照存放地址(自己随意配置),后者是客户端连接zookeeper服务的端口。默认端口2181 最好默认不修改

1)进入zookeeper.properties配置
bash 复制代码
vi zookeeper.properties
2)配置内容,修改dataDir和clientPort。前者是快照存放地址(自己随意配置可以和我一样),后者是客户端连接zookeeper服务的端口。默认端口2181 最好默认不修改

4、配置kafka_2.11-2.3.1/config下的"server.properties",修改log.dirs和zookeeper.connect。前者是日志存放文件夹,后者是zookeeper连接地址(端口和clientPort保持一致)

bash 复制代码
vi server.properties
1)找 ### Log Basics ### 添加如图所示
bash 复制代码
log.dirs=/training/kafka_2.11-2.3.1/logs
2)找 ### Zookeeper ### 添加如图所示,注意修改主机名

#查询主机名我的主机名字是niit:

bash 复制代码
hostname

#配置截图

bash 复制代码
zookeeper.connect=niit:2181
listeners=PLAINTEXT://niit:9092
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
num.partitions=3
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0
auto.create.topics.enable=true
delete.topics.enable=true

到此,kafka的单机环境就搭建成功了。

二、kafka的相关命令

1、开启kafka自带zookeeper

1)窗口1
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/zookeeper-server-start.sh ./config/zookeeper.properties
2)窗口2
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/zookeeper-server-start.sh -daemon ./config/zookeeper.properties


2、开启kafka

1)窗口2
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/kafka-server-start.sh ./config/server.properties
2)窗口3
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/kafka-server-start.sh -daemon ./config/server.properties

使用jps命令查看进程。安装配置完毕。

相关推荐
库库的数据库笔记12 分钟前
金融核心交易系统的数据库国产信创改造该如何做?
大数据·数据库·分布式·mysql·oracle·金融·数据库架构
RobinXYuan4 小时前
【Kafka 源码手记】04 客户端如何找到 Broker
kafka·源码阅读
爱吃火鸡面呀5 小时前
深入理解 Spark RDD:五大特性与实战解析
大数据·分布式·spark
Linux实战笔记7 小时前
记一次消息队列选型对比线上排查:Kafka/RabbitMQ/Pulsar 技术选型
kafka·rabbitmq·高并发·pulsar·消息队列选型
Norris Huang8 小时前
Kafka Connect 与 Flink CDC 写入 Iceberg:Upsert 的代价,以及 S3 Tables 的真正价值
分布式·flink·kafka
张彦峰ZYF8 小时前
一条消息的丢与重:Kafka 与 RabbitMQ 可靠投递的确认、位点、死信与幂等全链路
后端·kafka·消息队列·rabbitmq·isr·解耦与削峰·丢失与重复
我就是不信8 小时前
集群高并发环境下如何保证分布式唯一全局ID生成?
分布式
黄俊懿1 天前
【架构师从入门到进阶】第六章:服务集群优化——第八节:线程数公式
java·服务器·数据库·分布式·性能优化·架构·系统架构
大菠萝爱上小西瓜1 天前
基于 Spark + Iceberg 湖仓一体的 Netflix 流媒体用户行为全链路数仓与 ALS 智能推荐决策系统(含穿透下钻大屏)
大数据·分布式·spark
吴建旭 智宅焕1 天前
智能家居售后服务体系的架构设计:分布式售后风险的集中式兜底方案
分布式·智能家居