技术栈
kafka
Hello.Reader
5 小时前
数据库
·
分布式
·
kafka
Dynamic Kafka Source不重启也能“动态切换集群/主题”
Dynamic Kafka Source 不是直接让你写 topics = ["a", "b"],而是让你订阅一个或多个 stream id:
重学一遍
44 分钟前
分布式
·
kafka
深啃项目第四篇-kafka
通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。
yumgpkpm
5 小时前
hive
·
hadoop
·
elasticsearch
·
flink
·
kafka
·
hbase
·
cloudera
Cloudera CDP/CMP华为鲲鹏版下 Spark应用加速,华为昇腾芯片的实用配置过程
要将 Apache Spark 应用与华为昇腾(Ascend)芯片集成以实现 AI/ML 环节加速,需构建一个“Spark 负责数据预处理 + 昇腾负责模型训练/推理”的混合架构。以下是截至 2026 年的完整、可落地的实用配置流程,适用于企业级部署(如 Atlas 800/900 服务器或华为云 CCE 集群)。
AC赳赳老秦
5 小时前
大数据
·
人工智能
·
机器学习
·
数据分析
·
kafka
·
etl工程师
·
deepseek
华为昇腾适配DeepSeek实战:FP8转BF16权重与FlashMLA加速配置详解
华为昇腾系列AI处理器基于达芬奇架构,采用多核异构计算设计。其核心计算单元包含:计算性能可通过张量运算公式表示: $$ P = N_{core} \times F_{clk} \times OPS_{core} $$ 其中$N_{core}$为计算核心数量,$F_{clk}$为运行频率,$OPS_{core}$为单核运算能力。
小北方城市网
5 小时前
java
·
spring boot
·
后端
·
python
·
kafka
·
rabbitmq
·
java-rabbitmq
SpringBoot 集成消息队列实战(RabbitMQ/Kafka):异步通信与解耦,落地高可靠消息传递
消息队列(MQ)作为分布式系统的核心组件,核心价值是「异步通信、系统解耦、流量削峰」—— 通过消息中间件实现服务间的异步交互,避免服务直接调用导致的耦合,同时缓冲高并发流量(如秒杀、订单峰值),保障系统稳定性。主流消息队列中,RabbitMQ 适合复杂路由、低延迟场景,Kafka 适合高吞吐、大数据场景。
zzxxlty
1 天前
java
·
c++
·
kafka
kafka C++ 和 java端计算分区ID不一致排查
生产端使用C++,将std:string key 传入,parititon设为-1,表示让kafka自动计算分区id java端拿到反序列化后的key string,通过murmur2 算法计算出的分区id和kafka分配的分区id不一致
后季暖
1 天前
分布式
·
kafka
kafka原理详解
Producer(生产者)负责将消息发送给 Broker(Kafka 服务端)。这是一个 Push 动作。
smileSunshineMan
1 天前
java
·
kafka
·
intellij-idea
idea启动kafka源码
前提条件版本注意jdk21scala2.12.8gradle8.10.2zookeeper3.8.5这里有坑,zookeeper要和kafka的版本匹配,不然启动不报错,但是实际会没起起来
a程序小傲
1 天前
java
·
服务器
·
开发语言
·
面试
·
职场和发展
·
kafka
·
github
中国电网Java面试被问:Kafka Consumer的Rebalance机制和分区分配策略
图表代码复制下载全屏java复制下载java复制下载java复制下载java复制下载篇幅限制下面就只能给大家展示小册部分内容了。整理了一份核心面试笔记包括了:Java面试、Spring、JVM、MyBatis、Redis、MySQL、并发编程、微服务、Linux、Springboot、SpringCloud、MQ、Kafc
Analyze_ing
1 天前
大数据
·
flink
·
kafka
DolphinScheduler启动flink任务, 用Flink消费Kafka数据(linux)
已经在虚拟机部署好海豚了,想尝试下在海豚新建一个flink节点,然后用flink消费kafka数据。海豚用的是单机部署,具体操作你们可以看官方文档:DolphinScheduler | 文档中心
zhojiew
1 天前
kafka
·
apache
·
aws
Kafka Connect集成Apache Iceberg写入AWS Glue表
参考资料在构建实时数据湖(Real-time Data Lake)的过程中,如何高效、可靠地将Kafka中的流式数据通过ACID事务特性写入存储层是关键环节。
qq_31812159
2 天前
java
·
spring boot
·
redis
·
微服务
·
kafka
·
支付系统
·
金融服务
互联网大厂Java面试故事:支付与金融服务微服务架构、消息队列与AI风控全流程解析
支付平台与金融服务业务线招聘,严肃面试官与幽默程序员谢飞机展开三轮故事型面试,问题循序渐进,涵盖主流技术。
萧曵 丶
2 天前
分布式
·
kafka
Kafka 全面解析
Kafka 是 Apache 基金会开源的分布式流处理平台,最初由 LinkedIn 开发,后捐赠给 Apache 并成为顶级项目。它以 高吞吐、低延迟、高可用、可扩展 为核心特性,广泛应用于日志收集、消息队列、数据同步、流处理等场景,是高并发分布式系统中异步解耦、削峰填谷的核心组件。
七夜zippoe
2 天前
分布式
·
python
·
kafka
·
集群
·
流处理
·
exactly-once
实时数据处理:Kafka与Python构建高可靠流处理系统
目录摘要1 引言:为什么实时数据处理成为现代系统的核心需求1.1 实时数据处理的业务价值1.2 Kafka作为实时数据 backbone 的优势
a程序小傲
2 天前
java
·
开发语言
·
后端
·
python
·
面试
·
职场和发展
·
kafka
中国邮政Java面试被问:Kafka的Log Compaction实现和删除策略
图表代码复制下载全屏java复制下载java复制下载java复制下载java复制下载java复制下载篇幅限制下面就只能给大家展示小册部分内容了。整理了一份核心面试笔记包括了:Java面试、Spring、JVM、MyBatis、Redis、MySQL、并发编程、微服务、Linux、Springboot、SpringCloud、MQ、Kafc
indexsunny
2 天前
java
·
spring boot
·
redis
·
面试
·
kafka
·
spring security
·
互联网大厂
互联网大厂Java面试实战:音视频场景中的Spring Boot与Kafka技术问答
本篇文章以互联网大厂Java求职者谢飞机的面试故事为背景,围绕音视频场景展开,涵盖Spring Boot、Kafka、Redis、Spring Security等多项技术栈。通过3轮提问,展示面试官严肃提问与谢飞机搞笑答疑的互动,帮助读者系统理解相关技术在实际业务中的应用。
码农水水
3 天前
java
·
c语言
·
开发语言
·
面试
·
职场和发展
·
架构
·
kafka
中国电网Java面试被问:流批一体架构的实现和状态管理
text复制下载图表代码复制下载全屏python复制下载java复制下载text复制下载篇幅限制下面就只能给大家展示小册部分内容了。整理了一份核心面试笔记包括了:Java面试、Spring、JVM、MyBatis、Redis、MySQL、并发编程、微服务、Linux、Springboot、SpringCloud、MQ、Kafc
是垚不是土
3 天前
分布式
·
kafka
单节点部署 Kafka Kraft 集群
在 Kafka 2.8 版本之后,官方推出了 Kraft 模式,彻底摆脱了对 ZooKeeper 的依赖,大大简化了 Kafka 集群的部署和维护成本。本文将分享如何通过 Docker Compose 快速搭建一个单服务器多节点的 Kafka Kraft 测试集群,适合开发、测试环境快速落地使用。
LF3_
3 天前
分布式
·
kafka
·
集群
·
kraft
Centos7,KRaft模式单机模拟Kafka集群
下载:https://archive.apache.org/dist/kafka/3.6.0/kafka_2.13-3.6.0.tgz
七夜zippoe
3 天前
java
·
kafka
·
消息队列
·
rocketmq
·
2pc
分布式事务解决方案(二) 消息队列实现最终一致性
目录🎯 先说说我被消息事务"虐惨"的经历✨ 摘要1. 为什么选择消息队列?1.1 从2PC的痛苦说起