flink 自定义kudu connector中使用Metrics计数平均吞吐量,并推送到自定义kafkaReporter

文章目录

    • 前言
    • [1. Registering metrics](#1. Registering metrics)
    • [2. Metrics 的类型](#2. Metrics 的类型)
      • [2.1 counter](#2.1 counter)
      • [2.2 Gauge](#2.2 Gauge)
      • [2.3 Histogram](#2.3 Histogram)
      • [2.4 meter](#2.4 meter)
    • [3. 指标划分](#3. 指标划分)
      • [3.1 指标所属的范围](#3.1 指标所属的范围)
      • [3.2 默认所属](#3.2 默认所属)
    • [4. 自定义kudu connector中使用Metrics](#4. 自定义kudu connector中使用Metrics)
      • [4.1 sink算子继承RichFunction](#4.1 sink算子继承RichFunction)
      • [4.2 注册指标](#4.2 注册指标)
      • [4.3 计数逻辑](#4.3 计数逻辑)
      • [4.4 自定义Reporter,推送metric到kafka](#4.4 自定义Reporter,推送metric到kafka)
      • [4.5 结果展示](#4.5 结果展示)

前言

Flink exposes a metric system that allows gathering and exposing metrics to external systems

1. Registering metrics

继承RichFunction,调用getRuntimeContext().getMetricGroup()


2. Metrics 的类型

2.1 counter

计数器,累加或者累减

2.2 Gauge

提供各种类型的值

2.3 Histogram

表示度量值的统计结果,如平均值、最大值

2.4 meter

表示平均吞吐量,单位时间内事件次数


3. 指标划分

3.1 指标所属的范围

3.2 默认所属


4. 自定义kudu connector中使用Metrics

4.1 sink算子继承RichFunction

4.2 注册指标

4.3 计数逻辑

ps:kudu写入实际指标包含2个,一个是每分钟流量,在try代码块中,一个是每分钟错误数量,在catch代码块中


4.4 自定义Reporter,推送metric到kafka



flink-conf.yaml配置注册的类和参数

4.5 结果展示

相关推荐
Lalolander3 分钟前
装备制造企业选型:什么样的项目管理系统最合适?
大数据·制造·工程项目管理·装备制造·epc项目管理·项目成本管控·业财一体化
island13141 小时前
【git#4】分支管理 -- 知识补充
大数据·git·elasticsearch
LCHub低代码社区1 小时前
钧瓷产业原始创新的许昌共识:技术破壁·产业再造·生态重构(一)
大数据·人工智能·维格云·ai智能体·ai自动化·大禹智库·钧瓷码
晴天彩虹雨2 小时前
Flink 数据清洗与字段标准化最佳实践
大数据·数据仓库·flink
一个数据大开发2 小时前
解读《数据资产质量评估实施规则》:企业数据资产认证落地的关键指南
大数据·数据库·人工智能
TTBIGDATA2 小时前
如何将 Apache Hudi 接入 Ambari?完整部署与验证指南
大数据·hadoop·ambari·hudi·bigtop·湖仓·自定义组件集成
科技在线3 小时前
科技赋能建筑新未来:中建海龙模块化建筑产品入选中国建筑首批产业化推广产品
大数据·人工智能
24k小善4 小时前
Flink TaskManager详解
java·大数据·flink·云计算
时序数据说4 小时前
时序数据库IoTDB在航空航天领域的解决方案
大数据·数据库·时序数据库·iotdb
IT成长日记6 小时前
【Hive入门】Hive概述:大数据时代的数据仓库桥梁
大数据·数据仓库·hive·sql优化·分布式计算