Kafka 详解

1.基本概念:Kafka 是分布式发布 - 订阅消息系统,具有高吞吐量、可扩展性等优势,支持点对点和发布订阅两种消息模式,涉及 Broker、Topic、Partition 等多种角色。

2.安装步骤:需先安装 JDK 和 Zookeeper,下载 Kafka 安装包并解压,修改 server.properties 配置文件,包括 broker.id、listeners、log.dirs 等参数,分发安装包到其他节点并修改相应配置,启动前确保 Zookeeper 已启动。

(1)启动kafka集群

(2)进到 user/local/bin里创建脚本kafka.sh并编辑

(3)vi kafka.sh

#!/bin/bash

case $1 in

"start"){

echo "----启动 Kafka 集群----"

启动当前节点(node01)

kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties

远程启动 node02 和 node03(需提前配置 SSH 免密登录)

ssh node02 "source /etc/profile; kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties"

ssh node03 "source /etc/profile; kafka-server-start.sh -daemon /opt/software/kafka/config/server.properties"

};;

"stop"){

echo "----停止 Kafka 集群----"

停止当前节点(node01)

kafka-server-stop.sh

远程停止 node02 和 node03

ssh node02 "source /etc/profile; kafka-server-stop.sh"

ssh node03 "source /etc/profile; kafka-server-stop.sh"

};;

Esac

(4)赋予所有用户执行权限chmod 777 kafka.sh

(5)启动集群kafka.sh start

(6)查询进程xcall.sh jps

相关推荐
数智顾问2 小时前
破解 Shuffle 阻塞:Spark RDD 宽窄依赖在实时特征工程中的实战与未来
大数据·分布式·spark
JAVA学习通3 小时前
Kafka在美团数据平台的实践
分布式·kafka
JAVA学习通4 小时前
Replication(下):事务,一致性与共识
大数据·分布式·算法
失散137 小时前
分布式专题——45 ElasticSearch基础数据管理详解
java·分布式·elasticsearch·架构
没有bug.的程序员7 小时前
分布式监控体系:从指标采集到智能告警的完整之道
java·分布式·告警·监控体系·指标采集
没有bug.的程序员13 小时前
服务网格 Service Mesh:微服务通信的终极进化
java·分布式·微服务·云原生·service_mesh
笨手笨脚の20 小时前
Kafka-1 初识消息引擎系统
分布式·kafka·消息队列·消息引擎系统
Savvy..20 小时前
消息队列MQ
kafka·消息队列·rabbitmq·rocketmq·mq
235161 天前
【MQ】RabbitMQ:架构、工作模式、高可用与流程解析
java·分布式·架构·kafka·rabbitmq·rocketmq·java-rabbitmq
xrkhy1 天前
分布式之RabbitMQ的使用(3)QueueBuilder
分布式·rabbitmq