Win10安装和使用Apache Kafka

一、介绍

Apache Kafka是一个开源的分布式流处理平台,广泛用于构建高性能的数据管道和流式应用程序。它能够处理大量数据,支持实时数据流的传输和处理,适用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等多种大数据场景。

Kafka具有高吞吐量、可扩展性强、低延迟的特点,它通过分区、复制和容错机制来保证数据的持久性和可用性。在Kafka中,数据以主题(topics)的形式组织,生产者将消息发送到特定的主题,消费者从主题中读取消息。每个主题可以包含多个分区,分区内部的消息是有序的,并且可以跨多个服务器进行分布,以实现水平扩展。

阿里云提供了基于Apache Kafka构建的云消息队列服务,用户可以利用这项服务进行消息队列管理,而无需自己部署和运维Kafka集群,享受更加专业、可靠和安全的服务。

二、安装

1、官网下载安装包,选Kafka2.12-3.6.1的版本,对应Scala2.12,也对应Java8。

2、解压安装包,解压的目录不要太深,这样就安装成功了。

3、修改config/zookeeper.properties配置文件,修改dataDir目录,用于设置Zookeeper数据存储路径。

4、在安装目录下创建zk.cmd文件,写入下面命令,以后就能双击启动Zookeeper。

bash 复制代码
call bin/windows/zookeeper-server-start.bat config/zookeeper.properties

5、同理,修改config/server.properties配置文件,修改dataDir目录,用于设置Kafka数据存储路径。

6、在安装目录下创建kfk.cmd文件,写入下面命令,即可双击启动Kafka。

bash 复制代码
call bin/windows/kafka-server-start.bat config/server.properties

7、启动Zookeeper和Kafka之后,在data目录下会生成两个目录。启动顺序为Zookeeper--->Kafka;关闭顺序为Kafka--->Zookeeper。

三、使用

1、按顺序启动Zookeeper和Kafka之后,cmd输入jps,查看到代表Zookeeper进程的Jps、Kafka进程等。

2、创建主题

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --topic test --create
Created topic test.

3、查看主题列表

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --list
test

4、查询主题详情

bash 复制代码
F:\SoftWare\kafka_2.12-3.6.1\bin\windows>kafka-topics.bat --bootstrap-server localhost:9092 --topic test --describe
Topic: test     TopicId: FTQxT8f4TKqtB9wgO6PHvQ PartitionCount: 1       ReplicationFactor: 1    Configs:
        Topic: test     Partition: 0    Leader: 0       Replicas: 0     Isr: 0

F:\SoftWare\kafka_2.12-3.6.1\bin\windows>

5、创建消费者

bash 复制代码
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test

6、创建生产者

bash 复制代码
kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

7、生产者向Topic中输入数据,消费者就能订阅Topic消费到数据。

世上也有不花一分钱,不费一点力,就能成就高尚的道德品行,享受最大的人生安乐,遗留子孙以无穷的幸福,使自己来生得到忠贞良善眷属的方法。这种方法就是戒除邪淫、节制正淫。夫妇之间正当的淫欲,前面已经简单说明了节制与否的利害关系,这里不再论说。夫妇以外的邪淫之事,则无廉无耻,极秽极恶,乃是以人身去行畜生事。对于美艳的少女来求私奔,妖冶的少妇前来献媚,高尚明智的人都知道是莫大的祸殃,而严加拒绝,其结果必然是福星高照、皇天眷顾;无知愚人则当作莫大的幸福而欣然接纳,其结果必然导致灾祸降临,鬼神诛戮!君子是因祸而得福,小人则是因祸而加祸。因此古人说:"祸福无门,惟人自召。"世人假使在色欲关头,不能彻底看破,那就是将至高的德行、最大的安乐以及子孙无穷的幸福、来生忠贞良善的眷属,断送于片刻的欢娱之中。岂不可悲!

相关推荐
zhixingheyi_tian2 小时前
Spark 之 Aggregate
大数据·分布式·spark
KevinAha4 小时前
Kafka 3.5 源码导读
kafka
求积分不加C4 小时前
-bash: ./kafka-topics.sh: No such file or directory--解决方案
分布式·kafka
nathan05294 小时前
javaer快速上手kafka
分布式·kafka
宝哥大数据6 小时前
Flink Joins
flink
激流丶7 小时前
【Kafka 实战】Kafka 如何保证消息的顺序性?
java·后端·kafka
谭震鸿7 小时前
Zookeeper集群搭建Centos环境下
分布式·zookeeper·centos
木古古188 小时前
使用chrome 访问虚拟机Apache2 的默认页面,出现了ERR_ADDRESS_UNREACHABLE这个鸟问题
前端·chrome·apache
Java 第一深情9 小时前
零基础入门Flink,掌握基本使用方法
大数据·flink·实时计算
我的K84099 小时前
Flink整合Hudi及使用
linux·服务器·flink