kafka

yumgpkpm4 小时前
大数据·人工智能·hive·zookeeper·flink·kafka·cloudera
Cloudera CDP 7.3(国产CMP 鲲鹏版)平台与银行五大平台的技术对接方案Cloudera CDP 7.3(国产CMP 鲲鹏版)平台与银行五大平台的技术对接方案一份 CMP(Cloud Data AI Platform)与银行五大核心业务平台 的技术对接方案整理。该方案聚焦于数据层面的集成,适用于银行在构建数据中台、智能风控、客户洞察等场景下,如何通过 CMP 实现统一的数据湖仓、治理、分析与服务化能力。
AutoMQ5 小时前
分布式·架构·kafka
当 Kafka 架构显露“疲态”:共享存储领域正迎来创新变革文章导读本文作者为沃尔玛开发者 Ankur Ranjan 与 Sai Vineel Thamishetty 。二人长期关注 Apache Kafka 与流处理系统的演进,深入研究现代流处理架构面临的挑战与创新方向。文章不仅总结了 Kafka 的历史价值与当前局限,还展示了下一代开源项目 AutoMQ 如何借助云原生设计,解决 Kafka 在成本、扩展性与运维方面的痛点,为实时数据流架构提供全新视角。
独自破碎E6 小时前
数据库·分布式·kafka
Kafka的索引设计有什么亮点?Kafka索引设计的亮点主要有以下4个方面:1.kafka通过稀疏索引只存储每隔一定间隔的消息位置,而不是对每条消息都建立索引,这样可以大幅度减少内存的占用。
独自破碎E6 小时前
分布式·kafka
Kafka中关于事务消息的实现Kafka的事务消息实现了消息在生产、传输和消费的过程中的“仅一次”传递,也就是所谓的Exactly Once语义。
ppo_wu6 小时前
java·linux·spring boot·分布式·后端·spring·kafka
Kafka 3.9.0:部署、监控与消息发送教程注意:1、需要把<宿主机ip>换成自己的2、kafka高版本配置参数中不能出现0.0.0.0这样的ip地址,比如不能将KAFKA_ADVERTISED_LISTENERS配置为PLAINTEXT://0.0.0.0:9092这样的形式,否则会出现类似错误:
apocelipes17 小时前
docker·golang·kafka·开发工具和环境
docker-compose 部署单节点 kafka 4.0 测试环境高版本kafka已经不再需要ZooKeeper当保姆才能启动了,现在部署一个单机单节点测试环境比原来方便不少。
程序员Forlan1 天前
kafka
Kafka调试技巧分享对于我们有a,b,c,3台机器,那么我们的消息会被消费3次?可能会,也可能不会,这取决于你的配置和策略。 消费者组机制:Kafka 使用消费组(Consumer Group)来确保每个消息只会被每个消费者组中的一个消费者消费一次。 分区分配:Kafka 主题可以分为多个分区(Partitions),每个分区只能由一个消费者组中的一个消费者消费。
Wang's Blog2 天前
分布式·kafka
Kafka: 生产者客户端工作机制深度解析核心机制1 ) 异步发送模型Kafka Producer 的 send() 方法并非直接将数据发送至服务端。创建 Producer 实例时,会启动后台守护线程(Sender Thread)持续轮询消息队列
Wang's Blog3 天前
分布式·kafka
Kafka: 高吞吐量原理、应用场景Kafka作为分布式流处理平台,其设计理念与消息中间件存在本质差异,其消息中间件能力通过发布/订阅模型和Topic支持实现。相较于RabbitMQ等传统消息队列:
东东的脑洞3 天前
面试·职场和发展·kafka
【面试突击】Kafka 核心面试知识点
@淡 定3 天前
kafka·rabbitmq·rocketmq
主流消息队列对比:Kafka vs RabbitMQ vs RocketMQ消息队列作为分布式系统的核心组件,承担着解耦、削峰、异步通信的重要职责。在选择消息队列时,需要综合考虑业务需求、技术栈、性能要求、可靠性要求等多方面因素。本文将从架构设计、性能特性、可靠性机制、功能特性、适用场景等多个维度,对Kafka、RabbitMQ和RocketMQ进行深度对比分析。
Wang's Blog3 天前
分布式·kafka
Kafka: 消费者限流策略与再平衡机制深度解析在Kafka高吞吐场景下,业务系统常因资源限制需实施消费端限流。 当出现流量峰值时,未受控的消费端可能引发服务崩溃。 本文提供三种工程级解决方案:
xiaoshujiaa4 天前
spring boot·redis·微服务·kafka·flyway·java面试·互联网医疗
Java大厂面试实录:谢飞机硬刚互联网医疗微服务架构,Spring Cloud+Redis+Kafka全踩坑面试官(推了推眼镜,面无表情):欢迎来我们公司面试高级Java工程师岗位。我们正在构建一个高并发、高可用的互联网医疗健康管理平台,涉及在线问诊、电子病历、健康数据监测、药品配送等模块。接下来我会围绕技术栈和业务场景提问。
yours_Gabriel4 天前
分布式·中间件·kafka
【kafka】基本概念一个很有用的参考视频 另一个很有用的参考视频Kafka 是分布式的发布 / 订阅消息队列,主打高吞吐、高可用、低延迟、持久化,核心定位是大数据实时流处理的消息中间件,也是流式计算的核心组件。所有概念围绕「高效传输海量消息」设计,先记住核心一句话:生产者发消息到主题,消费者从主题拉取消息,Broker 集群存储消息,ZooKeeper/KRaft 管理集群。
Wang's Blog4 天前
分布式·kafka
Kafka: Admin 客户端操作指南之主题管理与集群监控核心步骤:关键配置参数:连接验证技巧:通过 adminClient.describeCluster() 可获取集群元数据,验证连接状态:
Wang's Blog4 天前
分布式·kafka
Kafka: AdminClient 核心操作详解之Topic 信息查询、配置修改与分区管理通过 describeTopics 方法获取 Topic 的元数据详情,包括分区分布、副本集和 ISR(In-Sync Replicas)状态
Wang's Blog5 天前
分布式·kafka
Kafka: 分布式配置管理的核心挑战在分布式系统中,当应用实例扩展到成百上千台时,配置管理面临严峻挑战。动态调整基础配置(如服务端口)需要逐台修改,效率低下且易出错
Wang's Blog5 天前
服务器·kafka
Kafka: 生产环境配置优化与服务器最佳实践指南Kafka生产环境部署必须调整默认配置,官方文档(kafka.apache.org/documentation/#configuration)提供了完整配置项说明:
Wang's Blog5 天前
分布式·kafka
Kafka: 动态配置刷新与分布式配置管理深度实践技术本质:通过 @nestjs/config 模块与 Refresh Scope 机制 实现配置热更新,避免服务重启。需重点关注:
搬砖快乐~5 天前
大数据·hadoop·spark·kafka·面试题·面经
面经:大数据开发岗-初面 面试题(40分钟)许久不见,经历种种再次回归,已然不是当初初入职场的小姑娘,必然也从面试题中探得面试官问题的根本,接下来和我一起回归面试题,希望可以帮助到找工作的你。