Window Kafka 简单使用

Window Kafka 简单使用

文章目录

1.kafka下载

下载地址

下载二进制的,如图:

2、官网下载kafka【解压之后如图所示】

3、修改zookeeper、Kafka的配置文件

config文件夹下zookeeper.properties文件

bash 复制代码
dataDir=D:/zookeeper/data

config文件夹下server.properties文件

bash 复制代码
log.dirs=D:/kafka-logs

4、启动zookeeper

cd D:\kafka_2.12-3.7.0\bin\windows

bash 复制代码
在此目录下打开cmd,执行命令
zookeeper-server-start.bat ..\..\config\zookeeper.properties

5、启动kafka

cd D:\kafka_2.12-3.7.0\bin\windows

bash 复制代码
在此目录下打开cmd,执行命令
kafka-server-start.bat ..\..\config\server.properties

6、Confluent.Kafka在.Net中使用

生产者:

csharp 复制代码
        /// <summary>
        /// 消息生产者
        /// </summary>
        public static void Producer()
        {
            var conf = new ProducerConfig {

                BootstrapServers = "localhost:9092",
                //CompressionType=CompressionType.Gzip//压缩方式
            };

            Action<DeliveryReport<string, string>> handler = r =>
            {
                if (!r.Error.IsError)
                {
                    Console.WriteLine($"Delivered message to {r.TopicPartitionOffset}");
                }
                else
                {
                    //发送邮件,记录错误消息
                    Console.WriteLine($"Delivery Error: {r.Error.Reason}");
                }
              
            };


            using (var p = new ProducerBuilder<string, string>(conf).Build())
            {

                for (int i = 0; i < 5; ++i)
                {
                    //批消息:消息集合
                    //虽然是单条数据发送 ,但是是批量发送的
                    //先放在内存中缓存起来,一起发送的
                    //磁盘IO:顺序读写(固态硬盘,机械硬盘寻址时间比较长)
                    var vin = $"LDP95E966NE02292{i}";
                    p.Produce("test", new Message<string , string> {Key= vin, Value = i.ToString() }, handler);
                }

                // wait for up to 10 seconds for any inflight messages to be delivered.
                p.Flush(TimeSpan.FromSeconds(10));
            }

        }

消费者:

csharp 复制代码
        /// <summary>
        /// 消费者
        /// 从文件找到数据,读到内存,通过网络发给客户端
        /// </summary>
        public static void Consumer()
        {
            var conf = new ConsumerConfig
            {
                GroupId = "test-consumer-group",
                BootstrapServers = "localhost:9092",
                // Note: The AutoOffsetReset property determines the start offset in the event
                // there are not yet any committed offsets for the consumer group for the
                // topic/partitions of interest. By default, offsets are committed
                // automatically, so in this example, consumption will only start from the
                // earliest message in the topic 'my-topic' the first time you run the program.
                AutoOffsetReset = AutoOffsetReset.Earliest,
                EnableAutoCommit=true,//关闭自动提交位移
                PartitionAssignmentStrategy=PartitionAssignmentStrategy.Range,//分区分配策略  轮询 、粘滞
                
            };

            using (var c = new ConsumerBuilder<Ignore, string>(conf).Build())
            {
                c.Subscribe("test");

                CancellationTokenSource cts = new CancellationTokenSource();
                Console.CancelKeyPress += (_, e) =>
                {
                    e.Cancel = true; // prevent the process from terminating.
                    cts.Cancel();
                };

                try
                {
                    while (true)
                    {
                        try
                        {
                            var cr = c.Consume(cts.Token);
                            Console.WriteLine($"Consumed message '{cr.Value}' at: '{cr.TopicPartitionOffset}'.");
                        }
                        catch (ConsumeException e)
                        {
                            Console.WriteLine($"Error occured: {e.Error.Reason}");
                        }
                    }
                }
                catch (OperationCanceledException)
                {
                    // Ensure the consumer leaves the group cleanly and final offsets are committed.
                    c.Close();
                }
            }
        }
相关推荐
ZHOU_WUYI2 小时前
一个简单的分布式追踪系统
分布式
码不停蹄的玄黓6 小时前
MySQL分布式ID冲突详解:场景、原因与解决方案
数据库·分布式·mysql·id冲突
王小王-1236 小时前
基于Hadoop的公共自行车数据分布式存储和计算平台的设计与实现
大数据·hive·hadoop·分布式·hadoop公共自行车·共享单车大数据分析·hadoop共享单车
要开心吖ZSH8 小时前
《Spring 中上下文传递的那些事儿》Part 4:分布式链路追踪 —— Sleuth + Zipkin 实践
java·分布式·spring
幼稚园的山代王9 小时前
RabbitMQ 4.1.1初体验
分布式·rabbitmq·ruby
百锦再9 小时前
RabbitMQ用法的6种核心模式全面解析
分布式·rabbitmq·路由·消息·通道·交换机·代理
一路向北North9 小时前
RabbitMQ简单消息监听和确认
分布式·rabbitmq·ruby
真实的菜9 小时前
Kafka生态整合深度解析:构建现代化数据架构的核心枢纽
架构·kafka·linq
一路向北North16 小时前
使用reactor-rabbitmq库监听Rabbitmq
分布式·rabbitmq·ruby
Amy187021118231 天前
赋能低压分布式光伏“四可”建设,筑牢电网安全新防线
分布式