Kafka环境搭建与相关启动命令

一、Kafka环境搭建

点击下载kafka_2.11-2.3.1.tgz文件链接

1、上传kafka_2.11-2.3.1.tgz,解压kafka_2.11-2.3.1.tgz,得到kafka_2.11-2.3.1文件夹

1)上传

#使用mobaxterm将 kafka_2.11-2.3.1.tgz 传入tools文件夹

#用下面代码进入tools文件夹

bash 复制代码
cd /tools

#查看传入成功没

bash 复制代码
ll
2)解压到training文件夹
bash 复制代码
tar -zxvf kafka_2.11-2.3.1.tgz -C /training
bash 复制代码
cd /training

2、 kafka需要安装zookeeper使用,但kafka集成zookeeper,在单机搭建时可直接使用。使用需配置kafka_2.11-2.3.1/config 下的"zookeeper.properties"

bash 复制代码
cd kafka_2.11-2.3.1/config

3、配置"zookeeper.properties"。修改dataDir和clientPort。前者是快照存放地址(自己随意配置),后者是客户端连接zookeeper服务的端口。默认端口2181 最好默认不修改

1)进入zookeeper.properties配置
bash 复制代码
vi zookeeper.properties
2)配置内容,修改dataDir和clientPort。前者是快照存放地址(自己随意配置可以和我一样),后者是客户端连接zookeeper服务的端口。默认端口2181 最好默认不修改

4、配置kafka_2.11-2.3.1/config下的"server.properties",修改log.dirs和zookeeper.connect。前者是日志存放文件夹,后者是zookeeper连接地址(端口和clientPort保持一致)

bash 复制代码
vi server.properties
1)找 ### Log Basics ### 添加如图所示
bash 复制代码
log.dirs=/training/kafka_2.11-2.3.1/logs
2)找 ### Zookeeper ### 添加如图所示,注意修改主机名

#查询主机名我的主机名字是niit:

bash 复制代码
hostname

#配置截图

bash 复制代码
zookeeper.connect=niit:2181
listeners=PLAINTEXT://niit:9092
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
num.partitions=3
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0
auto.create.topics.enable=true
delete.topics.enable=true

到此,kafka的单机环境就搭建成功了。

二、kafka的相关命令

1、开启kafka自带zookeeper

1)窗口1
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/zookeeper-server-start.sh ./config/zookeeper.properties
2)窗口2
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/zookeeper-server-start.sh -daemon ./config/zookeeper.properties


2、开启kafka

1)窗口2
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/kafka-server-start.sh ./config/server.properties
2)窗口3
bash 复制代码
cd /training/kafka_2.11-2.3.1/
bash 复制代码
./bin/kafka-server-start.sh -daemon ./config/server.properties

使用jps命令查看进程。安装配置完毕。

相关推荐
ACP广源盛139246256731 小时前
此芯 P1 AI BOX / AI NAS@ACP#IX8008、IX8024 应用场景与市场机会
大数据·人工智能·分布式·单片机·嵌入式硬件
网络工程小王19 小时前
【HCIE-AI】12.deepspeed分布式并行训练进阶版
人工智能·pytorch·分布式·学习·昇腾·deepspeed
ACP广源盛139246256731 天前
国产算力互联IX8024@ACP#Kimi K3 开源后的端侧部署硬件架构分析
大数据·人工智能·分布式·单片机·嵌入式硬件
花生了什么事o1 天前
分布式 ID 生成方案:从数据库自增到雪花算法
数据库·分布式·算法
java1234_小锋1 天前
【免费】基于Spark实时电商用户行为分析与预测(Java版本+可视化大屏+Kafka+SpringBoot+Vue3) 锋哥原创出品,必属精品
java·spark·kafka·实时电商用户行为分析与预测系统
爱吃提升2 天前
python 分布式爬虫、爬虫合规与综合实战项目
分布式·爬虫·python
ZENERGY-众壹2 天前
跨品牌逆变器升级:华为锦浪德业 API 对接的 7 个坑
分布式·华为·数据归一化·光伏运维·逆变器api
薛定谔的猫19822 天前
LLaMA-Factory +DeepSpeed 分布式多卡训练实战全解
分布式·deepspeed·zero·多卡训练·多卡分布式训练
稚南城才子,乌衣巷风流2 天前
RabbitMQ 消息队列:从入门到实战
分布式·rabbitmq
AI人工智能+电脑小能手2 天前
【大白话说Java面试题 第194题】【08_Kafka篇】第10题:简述 Kafka 的 Rebalance 机制?
java·kafka·消费者组·rebalance·分布式消息队列