Win10安装和使用Apache Kafka

一、介绍

Apache Kafka是一个开源的分布式流处理平台,广泛用于构建高性能的数据管道和流式应用程序。它能够处理大量数据,支持实时数据流的传输和处理,适用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等多种大数据场景。

Kafka具有高吞吐量、可扩展性强、低延迟的特点,它通过分区、复制和容错机制来保证数据的持久性和可用性。在Kafka中,数据以主题(topics)的形式组织,生产者将消息发送到特定的主题,消费者从主题中读取消息。每个主题可以包含多个分区,分区内部的消息是有序的,并且可以跨多个服务器进行分布,以实现水平扩展。

阿里云提供了基于Apache Kafka构建的云消息队列服务,用户可以利用这项服务进行消息队列管理,而无需自己部署和运维Kafka集群,享受更加专业、可靠和安全的服务。

二、安装

1、官网下载安装包,选Kafka2.12-3.6.1的版本,对应Scala2.12,也对应Java8。

2、解压安装包,解压的目录不要太深,这样就安装成功了。

3、修改config/zookeeper.properties配置文件,修改dataDir目录,用于设置Zookeeper数据存储路径。

4、在安装目录下创建zk.cmd文件,写入下面命令,以后就能双击启动Zookeeper。

bash 复制代码
call bin/windows/zookeeper-server-start.bat config/zookeeper.properties

5、同理,修改config/server.properties配置文件,修改dataDir目录,用于设置Kafka数据存储路径。

6、在安装目录下创建kfk.cmd文件,写入下面命令,即可双击启动Kafka。

bash 复制代码
call bin/windows/kafka-server-start.bat config/server.properties

7、启动Zookeeper和Kafka之后,在data目录下会生成两个目录。启动顺序为Zookeeper--->Kafka;关闭顺序为Kafka--->Zookeeper。

三、使用

1、按顺序启动Zookeeper和Kafka之后,cmd输入jps,查看到代表Zookeeper进程的Jps、Kafka进程等。

2、创建主题

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --topic test --create
Created topic test.

3、查看主题列表

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --list
test

4、查询主题详情

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --topic test --describe
Topic: test     TopicId: FTQxT8f4TKqtB9wgO6PHvQ PartitionCount: 1       ReplicationFactor: 1    Configs:
        Topic: test     Partition: 0    Leader: 0       Replicas: 0     Isr: 0

F:\SoftWare\kafka_2.12-3.6.1\bin\windows>

5、创建消费者

bash 复制代码
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test

6、创建生产者

bash 复制代码
kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

7、生产者向Topic中输入数据,消费者就能订阅Topic消费到数据。

世上也有不花一分钱,不费一点力,就能成就高尚的道德品行,享受最大的人生安乐,遗留子孙以无穷的幸福,使自己来生得到忠贞良善眷属的方法。这种方法就是戒除邪淫、节制正淫。夫妇之间正当的淫欲,前面已经简单说明了节制与否的利害关系,这里不再论说。夫妇以外的邪淫之事,则无廉无耻,极秽极恶,乃是以人身去行畜生事。对于美艳的少女来求私奔,妖冶的少妇前来献媚,高尚明智的人都知道是莫大的祸殃,而严加拒绝,其结果必然是福星高照、皇天眷顾;无知愚人则当作莫大的幸福而欣然接纳,其结果必然导致灾祸降临,鬼神诛戮!君子是因祸而得福,小人则是因祸而加祸。因此古人说:"祸福无门,惟人自召。"世人假使在色欲关头,不能彻底看破,那就是将至高的德行、最大的安乐以及子孙无穷的幸福、来生忠贞良善的眷属,断送于片刻的欢娱之中。岂不可悲!

相关推荐
BYSJMG1 小时前
计算机毕设大数据方向:基于Spark+Hadoop的餐饮外卖平台数据分析系统【源码+文档+调试】
大数据·hadoop·分布式·python·spark·django·课程设计
PXM的算法星球4 小时前
ZooKeeper vs Redis:分布式锁的实现与选型指南
redis·分布式·zookeeper
THMAIL5 小时前
量化基金从小白到大师 - 金融数据获取大全:从免费API到Tick级数据实战指南
人工智能·python·深度学习·算法·机器学习·金融·kafka
寒士obj5 小时前
Redisson分布式锁:看门狗机制与续期原理
redis·分布式
Micrle_0075 小时前
java分布式场景怎么实现一个高效的 读-写锁
java·分布式
楠枬6 小时前
Curator 如何实现分布式锁
分布式·zookeeper
Badman6 小时前
分布式系统下的数据一致性-Redis分布式锁
redis·分布式·后端
武子康9 小时前
Java-118 深入浅出 MySQL ShardingSphere 分片剖析:SQL 支持范围、限制与优化实践
java·大数据·数据库·分布式·sql·mysql·性能优化
闯闯桑9 小时前
toDF(columns: _*) 语法
开发语言·前端·spark·scala·apache
毕设源码-赖学姐10 小时前
【开题答辩全过程】以 基于Hadoop电商数据的可视化分析为例,包含答辩的问题和答案
大数据·hadoop·分布式