Flume之选择器:复制和多路复用(比喻化理解

Flume 的选择器决定了Source 如何将数据分发到多个 Channel 。这就像 "快递员如何分配包裹到不同的运输通道",有两种策略:复制 和多路复用。

一、复制(Replicating Selector):每个 Channel 都送一份

核心逻辑

将同一个 Event(数据)复制到所有配置的 Channel,就像 "一个快递员同时给多个收件人发相同的包裹"。

应用场景
  • 需要将数据同时写入多个目的地(如同时备份到 HDFS 和 Kafka)。
  • 示例:监控系统日志,同时存储到 HDFS(长期归档)和 Elasticsearch(实时搜索)。
配置示例
复制代码
# Source配置
a1.sources = r1
a1.channels = c1 c2  # 配置两个Channel

# 选择器类型:复制(默认)
a1.sources.r1.selector.type = replicating

二、多路复用(Multiplexing Selector):按规则分配

核心逻辑

根据 Event 的Header 值 (类似包裹上的 "地址标签"),将数据路由到不同的 Channel,就像 "快递员按收件地址分区域派送"。

应用场景
  • 根据数据类型拆分(如将错误日志和访问日志分到不同 Channel)。
  • 示例:电商订单数据,按支付方式(微信 / 支付宝)分流到不同 Kafka Topic。
配置示例
复制代码
# Source配置
a1.sources = r1
a1.channels = c1 c2  # 配置两个Channel

# 选择器类型:多路复用
a1.sources.r1.selector.type = multiplexing

# 按Header中的"type"字段路由
a1.sources.r1.selector.header = type
a1.sources.r1.selector.mapping.error = c1  # type=error的Event走c1
a1.sources.r1.selector.mapping.access = c2  # type=access的Event走c2
a1.sources.r1.selector.default = c2  # 未匹配的默认走c2

三、对比与记忆技巧

维度 复制(Replicating) 多路复用(Multiplexing)
数据流向 一个 Event 复制到所有 Channel 一个 Event 只走一个 Channel(按规则选)
比喻 快递员给每个客户都发相同的包裹 快递员按地址分区派送包裹
配置关键词 replicating(默认,无需显式配置) multiplexing + header + mapping
典型场景 数据备份、多目的地存储 数据分类、分流处理

四、一句话总结

  • 复制:"一份数据,所有管道都走一遍"(适合备份);
  • 多路复用:"不同数据走不同管道"(适合分类)。

如果还是容易混淆,可以想象:

  • 复制像 "群发消息"(所有人都收到相同内容);
  • 多路复用像 "智能分拣"(根据包裹标签选择不同运输路线)。
相关推荐
人工智能培训1 小时前
边缘AI与大模型轻量化:让智能跑进每一个终端
大数据·人工智能·算法·重构·生活
产业家1 小时前
当数据走向理解,如何重构一个企业级 AI 数据平台?
大数据·人工智能
Hotchip_MEMS1 小时前
从触发吸气道智能感知:MEMS硅麦埋下雾化器智能化伏笔
大数据·人工智能·笔记·电脑·制造
北京君诺正信知识产权1 小时前
商标变更、转让、续展怎么办理?官方规则整理好了
大数据
字节跳动数据平台1 小时前
水印字幕无痕擦除!电商、短剧素材处理告别“贴膏药”
大数据
清华kenny1 小时前
中医生活化智能终端对比:晓得养在合肥周边的服务优势
大数据·人工智能·安徽晓得养
汉知宝科技2 小时前
商标管理软件选型指南:四类平台定位与功能覆盖横向对比
大数据
Sayai2 小时前
Kafka 磁盘空间治理实战:retention 保留策略、log.dirs 在线扩容、分区跨盘迁移与不停机整体换盘
大数据·运维·分布式·kafka·消息队列
码流子2 小时前
高速公路视频AI分析,算力该放哪:边缘、中心还是云边协同?
大数据·数据库·人工智能·物联网·音视频
小冯不疯3 小时前
物料主数据同步实战:从金蝶云星空到小满OKKICRM的单一策略深度拆解
java·大数据·数据库