风险特征系统 EPC 子系统:基于 Kafka 数据源与数据集配置的 Flink 指标清洗加工

1. 系统概述

风险特征系统 EPC 子系统,是用于根据后管配置的接入的 Kafka 数据源信息和数据集信息清洗加工 Flink 指标的。它承担着从原始数据接入到最终指标产出的关键链路职责,是风险特征计算体系中的重要一环。

2. 核心功能

EPC 子系统围绕两个核心配置来源展开工作:

  • Kafka 数据源信息:由后管系统统一配置,定义了数据接入的 Topic、消费组、序列化方式等基础连接参数。
  • 数据集信息:由后管系统维护,描述了数据的字段结构、业务含义以及清洗加工所需的规则定义。

子系统根据这两类配置,驱动 Flink 作业完成对实时数据流的清洗与加工,最终产出可供风险特征计算使用的指标数据。

3. 系统架构与 Actor 模式

EPC 子系统内部主要采用 Akka 的 Actor 模式进行构建。系统启动时,首先读取数据库中接入的 Kafka 数据源信息,并据此启动对应的 Kafka 消费程序。消费到的原始数据交由 ProcessService 处理,ProcessService 根据 Topic 名称找到数据库中配置的 Kafka 字段信息,将提取出的字段信息封装到 Map 中向下传递,最终交给 DataSetService 进行后续处理。

4. 消息总线与订阅机制

DataSetService 中定义了全局消息总线 LookupBusImpl sourceBus。ProcessService 处理完数据后,通过 sourceBus.publish() 将消息发布到总线上。系统启动后,会读取数据库中所有的数据集 PlanList,并逐一执行 subscribe(plan, sourceId) 完成对相应消息的订阅,从而实现数据从 Kafka 接入到数据集加工处理的全链路流转。

5. 工作流程

EPC 子系统的工作流程可以概括为以下几个阶段:

  1. 配置加载:从后管系统拉取 Kafka 数据源信息和数据集信息,完成作业参数的初始化。
  2. 数据接入:按照数据源配置连接 Kafka,订阅对应 Topic,获取原始实时数据流。
  3. 清洗加工:依据数据集信息中定义的字段映射、过滤规则和转换逻辑,对原始数据进行清洗与加工。
  4. 指标产出:将加工后的数据按指标口径进行聚合计算,输出最终的风险特征指标。

6. 技术要点

在实现层面,EPC 子系统需要重点关注以下几个方面:

  • 配置与作业解耦:后管配置变更后,Flink 作业能够动态感知并调整处理逻辑,避免频繁重启作业。
  • 数据质量保障:在清洗环节对脏数据、缺失字段和异常格式进行有效处理,确保指标计算的准确性。
  • 性能与稳定性:合理设置并行度、检查点(Checkpoint)和背压(Backpressure)处理策略,保障实时链路的稳定运行。

7. 总结

风险特征系统 EPC 子系统通过后管配置驱动 Flink 作业,结合 Akka Actor 模式与全局消息总线机制,实现了从 Kafka 数据接入到指标清洗加工的全流程自动化,为风险特征计算提供了可靠、灵活的数据基础。

相关推荐
samforce6 小时前
为什么微服务会退化成“分布式单体”?——软件架构里的嵌套率传导定律
人工智能·分布式·微服务·架构·软件架构·结构认知
我不会起名字3227 小时前
Kafka 顺序消息为什么乱了:分区数变化与重试的 3 类原因
kafka·消息队列·顺序·排查
用户3610588626121 天前
Flink ApplicationMaster启动流程源码深度剖析:从YARN提交到JobMaster启动的完整链路
大数据·flink
每天一道题1 天前
Kafka 是如何工作的?从 Broker、Partition、Offset 到 Consumer Group
分布式·kafka
用户1494484813201 天前
为什么大厂很少直接用 2PC/TCC?聊聊分布式事务在真实业务里的落地套路
分布式·后端
code_slave(码畜)1 天前
微服务架构落地:分库分表实战(下) —— 分布式主键、跨分片查询与分页聚合防坑
数据库·spring boot·分布式·spring cloud·微服务·架构·分库分表
德迅云安全-上官1 天前
新一代智能分布式云接入:应用加速守护 TCP 业务安全与体验
分布式·tcp/ip·安全
凯凯姜1 天前
分布式定时任务重复执行与故障恢复
分布式
ClouGence1 天前
还在用命令行管理 Kafka?开源 CloudDM 让操作更简单
数据库·kafka·开源
Sayai1 天前
Kafka 磁盘空间治理实战:retention 保留策略、log.dirs 在线扩容、分区跨盘迁移与不停机整体换盘
大数据·运维·分布式·kafka·消息队列