Window Kafka 简单使用

Window Kafka 简单使用

文章目录

1.kafka下载

下载地址

下载二进制的,如图:

2、官网下载kafka【解压之后如图所示】

3、修改zookeeper、Kafka的配置文件

config文件夹下zookeeper.properties文件

bash 复制代码
dataDir=D:/zookeeper/data

config文件夹下server.properties文件

bash 复制代码
log.dirs=D:/kafka-logs

4、启动zookeeper

cd D:\kafka_2.12-3.7.0\bin\windows

bash 复制代码
在此目录下打开cmd,执行命令
zookeeper-server-start.bat ..\..\config\zookeeper.properties

5、启动kafka

cd D:\kafka_2.12-3.7.0\bin\windows

bash 复制代码
在此目录下打开cmd,执行命令
kafka-server-start.bat ..\..\config\server.properties

6、Confluent.Kafka在.Net中使用

生产者:

csharp 复制代码
        /// <summary>
        /// 消息生产者
        /// </summary>
        public static void Producer()
        {
            var conf = new ProducerConfig {

                BootstrapServers = "localhost:9092",
                //CompressionType=CompressionType.Gzip//压缩方式
            };

            Action<DeliveryReport<string, string>> handler = r =>
            {
                if (!r.Error.IsError)
                {
                    Console.WriteLine($"Delivered message to {r.TopicPartitionOffset}");
                }
                else
                {
                    //发送邮件,记录错误消息
                    Console.WriteLine($"Delivery Error: {r.Error.Reason}");
                }
              
            };


            using (var p = new ProducerBuilder<string, string>(conf).Build())
            {

                for (int i = 0; i < 5; ++i)
                {
                    //批消息:消息集合
                    //虽然是单条数据发送 ,但是是批量发送的
                    //先放在内存中缓存起来,一起发送的
                    //磁盘IO:顺序读写(固态硬盘,机械硬盘寻址时间比较长)
                    var vin = $"LDP95E966NE02292{i}";
                    p.Produce("test", new Message<string , string> {Key= vin, Value = i.ToString() }, handler);
                }

                // wait for up to 10 seconds for any inflight messages to be delivered.
                p.Flush(TimeSpan.FromSeconds(10));
            }

        }

消费者:

csharp 复制代码
        /// <summary>
        /// 消费者
        /// 从文件找到数据,读到内存,通过网络发给客户端
        /// </summary>
        public static void Consumer()
        {
            var conf = new ConsumerConfig
            {
                GroupId = "test-consumer-group",
                BootstrapServers = "localhost:9092",
                // Note: The AutoOffsetReset property determines the start offset in the event
                // there are not yet any committed offsets for the consumer group for the
                // topic/partitions of interest. By default, offsets are committed
                // automatically, so in this example, consumption will only start from the
                // earliest message in the topic 'my-topic' the first time you run the program.
                AutoOffsetReset = AutoOffsetReset.Earliest,
                EnableAutoCommit=true,//关闭自动提交位移
                PartitionAssignmentStrategy=PartitionAssignmentStrategy.Range,//分区分配策略  轮询 、粘滞
                
            };

            using (var c = new ConsumerBuilder<Ignore, string>(conf).Build())
            {
                c.Subscribe("test");

                CancellationTokenSource cts = new CancellationTokenSource();
                Console.CancelKeyPress += (_, e) =>
                {
                    e.Cancel = true; // prevent the process from terminating.
                    cts.Cancel();
                };

                try
                {
                    while (true)
                    {
                        try
                        {
                            var cr = c.Consume(cts.Token);
                            Console.WriteLine($"Consumed message '{cr.Value}' at: '{cr.TopicPartitionOffset}'.");
                        }
                        catch (ConsumeException e)
                        {
                            Console.WriteLine($"Error occured: {e.Error.Reason}");
                        }
                    }
                }
                catch (OperationCanceledException)
                {
                    // Ensure the consumer leaves the group cleanly and final offsets are committed.
                    c.Close();
                }
            }
        }
相关推荐
爬山算法1 小时前
Redis(66)Redis如何实现分布式锁?
数据库·redis·分布式
W.Buffer2 小时前
Kafka零拷贝原理深度解析:从传统拷贝痛点到工作实践优化
分布式·kafka
没有bug.的程序员3 小时前
服务治理与 API 网关:微服务流量管理的艺术
java·分布式·微服务·架构·wpf
心态特好3 小时前
解锁分布式唯一 ID:技术、实践与最佳方案
分布式·生活
shinelord明6 小时前
【大数据技术实战】Kafka 认证机制全解析
大数据·数据结构·分布式·架构·kafka
BUTCHER59 小时前
Kafka多网卡环境配置
分布式·kafka
鸿蒙小白龙10 小时前
openharmony之分布式蓝牙实现多功能场景设备协同实战
分布式·harmonyos·鸿蒙·鸿蒙系统·open harmony
鸿蒙小白龙11 小时前
openharmony之分布式购物车开发实战
分布式·harmonyos·鸿蒙·鸿蒙系统·open harmony
小蜗牛编程实录11 小时前
一文搞懂分布式事务:从理论到实践方案
分布式·后端
鸿蒙小白龙11 小时前
openharmony之分布式相机开发:预览\拍照\编辑\同步\删除\分享教程
分布式·harmonyos·鸿蒙·鸿蒙系统·open harmony