- 实时数仓中,为什么没有零点漂移问题?
- 因为flink直接取的事件时间
- 用kafka是为了速度快,并且数据不丢,那为什么既用了kafkachannel,也用了kafka,而不只用kafkachannel呢?
- 因为需要削峰填谷
- 离线数仓中,为什么用两个flume,一个kafka,直接用taildirsource,kafkachannel,hdfssink不行吗?
- 不行
- kafka可以削峰填谷
- 如果用kafkachannel,那么数据写到kafka,只剩event,没有header,无法解决零点漂移问题,而多加一个flume,可以在kafkasource中添加拦截器。
离线数仓中,为什么用两个flume,一个kafka
青云游子2023-08-03 12:44
相关推荐
TTBIGDATA7 分钟前
【Ambari Plus】14.Hue 安装AI创界者19 分钟前
零基础上手!ComfyUI + LTX-2.3 图生视频完整工作流搭建与调优指南(附避坑细节)有Li1 小时前
基于扩散模型的超声计算机断层成像实现肌肉骨骼组织高保真三维重建文献速递/基于多模态的医学影像分割与理解weishuangyun1231 小时前
2026小程序开发全流程:从平台选择到功能定制的完整白皮书记忆停留w2 小时前
从单体到微服务:Redis 协同 MySQL、Milvus、MinIO 搭建企业级RAG/AI Agent脚手架架构亿信华辰软件4 小时前
数据资产入表,数据治理厂商能做什么小顿的企业观察4 小时前
中企出海战略规划,正在从“走出去”转向“走进去”AllData公司负责人5 小时前
数据库同步平台|AIIData数据中台实现OceanBase、达梦数据库、OpenGauss、人大金仓、Hive、TDengine 一键接入Dorisstonewl25995 小时前
2026年PDF标签打印的低成本误区IvorySQL6 小时前
从双解析器到循环工程:IvorySQL 五年技术演进路线的深度观察