Kafka 详解

1.基本概念:Kafka 是分布式发布 - 订阅消息系统,具有高吞吐量、可扩展性等优势,支持点对点和发布订阅两种消息模式,涉及 Broker、Topic、Partition 等多种角色。

2.安装步骤:需先安装 JDK 和 Zookeeper,下载 Kafka 安装包并解压,修改 server.properties 配置文件,包括 broker.id、listeners、log.dirs 等参数,分发安装包到其他节点并修改相应配置,启动前确保 Zookeeper 已启动。

(1)启动kafka集群

(2)进到 user/local/bin里创建脚本kafka.sh并编辑

(3)vi kafka.sh

#!/bin/bash

case $1 in

"start"){

echo "----启动 Kafka 集群----"

启动当前节点(node01)

kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties

远程启动 node02 和 node03(需提前配置 SSH 免密登录)

ssh node02 "source /etc/profile; kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties"

ssh node03 "source /etc/profile; kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties"

};;

"stop"){

echo "----停止 Kafka 集群----"

停止当前节点(node01)

kafka-server-stop.sh

远程停止 node02 和 node03

ssh node02 "source /etc/profile; kafka-server-stop.sh"

ssh node03 "source /etc/profile; kafka-server-stop.sh"

};;

Esac

(4)赋予所有用户执行权限chmod 777 kafka.sh

(5)启动集群kafka.sh start

(6)查询进程xcall.sh jps

相关推荐
梦里不知身是客112 小时前
Spark的容错机制
大数据·分布式·spark
大数据CLUB9 小时前
酒店预订数据分析及预测可视化
大数据·hadoop·分布式·数据挖掘·数据分析·spark·mapreduce
不见长安在16 小时前
分布式ID
java·分布式·分布式id
qq_3168377516 小时前
jmeter 分布式压测
分布式·jmeter
Hello.Reader17 小时前
基于 Flink CDC 的 MySQL → Kafka Streaming ELT 实战
mysql·flink·kafka
西岭千秋雪_18 小时前
Zookeeper实现分布式锁
java·分布式·后端·zookeeper·wpf
毕设源码-钟学长21 小时前
【开题答辩全过程】以 分布式菌菇销售系统为例,包含答辩的问题和答案
分布式
千禧皓月1 天前
【C++】基于C++的RPC分布式网络通信框架(二)
c++·分布式·rpc
教练、我想打篮球1 天前
05 kafka 如何存储较大数据记录
java·kafka·record