KAFKA搭建教程

KAFKA搭建教程

期待您的关注

KAFKA学习笔记 帮助更多人

目录

KAFKA搭建教程

1.下载Kafka并解压

2.添加环境变量

[3.修改 server.properties 文件](#3.修改 server.properties 文件)

4.将kafka复制到其它节点

5.修改node1、node2节点的broker.id

[6.将master的环境变量同步到node1、 node2](#6.将master的环境变量同步到node1、 node2)

7.启动zookeeper

8.启动Kafka


1.下载Kafka并解压

下载地址:大数据相关文件快速下载入口 (qq.com)

2.添加环境变量

html 复制代码
vim /etc/profile


export KAFKA_HOME=/usr/local/soft/kafka_2.11-2.0.0
export path=$PATH:$KAFKA_HOME/bin


source /etc/profile

3.修改 server.properties 文件

html 复制代码
cd /usr/local/soft/kafka_2.11-2.0.0/config

vim server.properties


broker.id=0 每一个节点broker.id 要不一样

log.dirs=/usr/local/soft/kafka_2.11-2.0.0/data

zookeeper.connect=master:2181,node1:2181,node2:2181 消息(数据)存放的位置

4.将kafka复制到其它节点

html 复制代码
cd /usr/local/soft

scp -r kafka_2.11-2.0.0 node1:`pwd`
scp -r kafka_2.11-2.0.0 node2:`pwd`

5.修改node1、node2节点的broker.id

java 复制代码
(1) 切换node1节点

cd /usr/local/soft/kafka_2.11-2.0.0/config/

vim server.properties
	
修改
broker.id=1     ( master=0   node1=1  node2=2 )


(2) 切换node2节点

cd /usr/local/soft/kafka_2.11-2.0.0/config/

vim server.properties
	
修改
broker.id=2     ( master=0   node1=1  node2=2 )

6.将master的环境变量同步到node1、 node2

java 复制代码
scp -r /etc/profile node1:/etc/
	
scp -r /etc/profile node2:/etc/


source /etc/profile
source /etc/profile

============= Kafka 搭建完毕 ================

=============== 启动 Kafka ==================

7.启动zookeeper

java 复制代码
1) 启动zookeeper  -- 需要在master、 node1、 node2 任意位置启动
 
zkServer.sh start

2) 查看ZK状态
 
zkServer.sh status
 

8.启动Kafka

java 复制代码
kafka-server-start.sh -daemon /usr/local/soft/kafka_2.11-2.0.0/config/server.properties

jps查看进程

相关推荐
Thomas.Sir3 天前
第21课:PyTorch|GPU多卡训练与分布式训练基础【让多卡并行成为你的加速引擎】
人工智能·pytorch·分布式
Cicada1283 天前
库存消息消费的正确性设计——从幂等窗口到批量流水线
分布式·系统架构
Nano叶落4 天前
Kafka 消费积压排查入门:Docker 搭环境亲手制造一次 ‘消息堵死‘,10 分钟看懂 Lag
kafka
Francek Chen4 天前
【大数据处理与分析】数据仓库Hive:04 数据仓库Hive概述
大数据·数据仓库·hive·hadoop·分布式
Gl�ria4 天前
Hadoop/YARN 集群缩容:下线DN节点
大数据·hadoop·分布式
吉甫作诵5 天前
Kafka 集群安装与运维实战:消费组排查、Offset 重置与副本重分配
大数据·运维·分布式·kafka·消息队列
imDwAaY5 天前
消息队列四大核心问题:顺序性、幂等性、可靠性与一致性
学习·kafka·rabbitmq
wno7045 天前
Spring Boot整合Kafka
spring boot·kafka
是Dream呀5 天前
Harness 工程:让 Agent 真正把任务做完
人工智能·分布式·缓存·agent