confluent-kafka 模块生产数据消费数据

confluent-kafka 模块生产数据消费数据

本文介绍如何使用Confluent-Kafka-Python实现Kafka生产数据消费数据。

前言

kafka是一个开源的流处理平台,一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。

confluent-kafka 是什么

confluent-kafka是Python模块,推荐使用,性能优于kafka-python

参考文档:https://docs.confluent.io/current/clients/confluent-kafka-python/index.html

confluent_kafka-python地址
复制代码
https://github.com/confluentinc/confluent-kafka-python

① 拉取confluent_kafka提供的生产者消费者用例,用例在example中。

复制代码
git clone https://github.com/confluentinc/confluent-kafka-python.git

② 安装python3

③ 安装confluent_kafka

复制代码
python3 -m pip install confluent_kafka

④ kafka地址

复制代码
127.0.0.1:9092

⑤ 测试执行producer.py生产数据,kafka地址为127.0.0.1.197:9092,topic为topic_test1

复制代码
python producer.py 127.0.0.1.197:9092 topic_test1

⑥ 输入任意数据内容。

复制代码
test_message1
test_message2
test_message3
test_message4
test_message5

⑦ 消费数据

复制代码
python consumer.py 127.0.0.1:9092 group topic_test1
相关推荐
深圳蔓延科技14 小时前
Kafka的高性能之路
后端·kafka
努力的小郑21 小时前
从一次分表实践谈起:我们真的需要复杂的分布式ID吗?
分布式·后端·面试
AAA修煤气灶刘哥1 天前
别让Redis「歪脖子」!一次搞定数据倾斜与请求倾斜的捉妖记
redis·分布式·后端
阿里云云原生2 天前
嘉银科技基于阿里云 Kafka Serverless 提升业务弹性能力,节省成本超过 20%
kafka·serverless
Aomnitrix2 天前
知识管理新范式——cpolar+Wiki.js打造企业级分布式知识库
开发语言·javascript·分布式
程序消消乐2 天前
Kafka 入门指南:从 0 到 1 构建你的 Kafka 知识基础入门体系
分布式·kafka
智能化咨询2 天前
Kafka架构:构建高吞吐量分布式消息系统的艺术——进阶优化与行业实践
分布式·架构·kafka
Chasing__Dreams2 天前
kafka--基础知识点--5.2--最多一次、至少一次、精确一次
分布式·kafka
在未来等你2 天前
Elasticsearch面试精讲 Day 17:查询性能调优实践
大数据·分布式·elasticsearch·搜索引擎·面试