confluent-kafka 模块生产数据消费数据

confluent-kafka 模块生产数据消费数据

本文介绍如何使用Confluent-Kafka-Python实现Kafka生产数据消费数据。

前言

kafka是一个开源的流处理平台,一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。

confluent-kafka 是什么

confluent-kafka是Python模块,推荐使用,性能优于kafka-python

参考文档:https://docs.confluent.io/current/clients/confluent-kafka-python/index.html

confluent_kafka-python地址
复制代码
https://github.com/confluentinc/confluent-kafka-python

① 拉取confluent_kafka提供的生产者消费者用例,用例在example中。

复制代码
git clone https://github.com/confluentinc/confluent-kafka-python.git

② 安装python3

③ 安装confluent_kafka

复制代码
python3 -m pip install confluent_kafka

④ kafka地址

复制代码
127.0.0.1:9092

⑤ 测试执行producer.py生产数据,kafka地址为127.0.0.1.197:9092,topic为topic_test1

复制代码
python producer.py 127.0.0.1.197:9092 topic_test1

⑥ 输入任意数据内容。

复制代码
test_message1
test_message2
test_message3
test_message4
test_message5

⑦ 消费数据

复制代码
python consumer.py 127.0.0.1:9092 group topic_test1
相关推荐
沉着的码农37 分钟前
【设计模式】基于责任链模式的参数校验
java·spring boot·分布式
ZHOU_WUYI12 小时前
一个简单的分布式追踪系统
分布式
码不停蹄的玄黓16 小时前
MySQL分布式ID冲突详解:场景、原因与解决方案
数据库·分布式·mysql·id冲突
王小王-12317 小时前
基于Hadoop的公共自行车数据分布式存储和计算平台的设计与实现
大数据·hive·hadoop·分布式·hadoop公共自行车·共享单车大数据分析·hadoop共享单车
要开心吖ZSH18 小时前
《Spring 中上下文传递的那些事儿》Part 4:分布式链路追踪 —— Sleuth + Zipkin 实践
java·分布式·spring
幼稚园的山代王19 小时前
RabbitMQ 4.1.1初体验
分布式·rabbitmq·ruby
百锦再19 小时前
RabbitMQ用法的6种核心模式全面解析
分布式·rabbitmq·路由·消息·通道·交换机·代理
一路向北North20 小时前
RabbitMQ简单消息监听和确认
分布式·rabbitmq·ruby
真实的菜20 小时前
Kafka生态整合深度解析:构建现代化数据架构的核心枢纽
架构·kafka·linq
一路向北North1 天前
使用reactor-rabbitmq库监听Rabbitmq
分布式·rabbitmq·ruby