flink 自定义kudu connector中使用Metrics计数平均吞吐量,并推送到自定义kafkaReporter

文章目录

    • 前言
    • [1. Registering metrics](#1. Registering metrics)
    • [2. Metrics 的类型](#2. Metrics 的类型)
      • [2.1 counter](#2.1 counter)
      • [2.2 Gauge](#2.2 Gauge)
      • [2.3 Histogram](#2.3 Histogram)
      • [2.4 meter](#2.4 meter)
    • [3. 指标划分](#3. 指标划分)
      • [3.1 指标所属的范围](#3.1 指标所属的范围)
      • [3.2 默认所属](#3.2 默认所属)
    • [4. 自定义kudu connector中使用Metrics](#4. 自定义kudu connector中使用Metrics)
      • [4.1 sink算子继承RichFunction](#4.1 sink算子继承RichFunction)
      • [4.2 注册指标](#4.2 注册指标)
      • [4.3 计数逻辑](#4.3 计数逻辑)
      • [4.4 自定义Reporter,推送metric到kafka](#4.4 自定义Reporter,推送metric到kafka)
      • [4.5 结果展示](#4.5 结果展示)

前言

   Flink exposes a metric system that allows gathering and exposing metrics to external systems

1. Registering metrics

  继承RichFunction,调用getRuntimeContext().getMetricGroup()


2. Metrics 的类型

2.1 counter

  计数器,累加或者累减

2.2 Gauge

  提供各种类型的值

2.3 Histogram

  表示度量值的统计结果,如平均值、最大值

2.4 meter

  表示平均吞吐量,单位时间内事件次数


3. 指标划分

3.1 指标所属的范围

3.2 默认所属


4. 自定义kudu connector中使用Metrics

4.1 sink算子继承RichFunction

4.2 注册指标

4.3 计数逻辑

ps:kudu写入实际指标包含2个,一个是每分钟流量,在try代码块中,一个是每分钟错误数量,在catch代码块中


4.4 自定义Reporter,推送metric到kafka



flink-conf.yaml配置注册的类和参数

4.5 结果展示

相关推荐
全栈陈序员41 分钟前
【Git】从入门到精通(六)—— git commit:提交到版本库
大数据·git·elasticsearch
真上帝的左手1 小时前
30. 技术专题-‌应用框架组件-搜索引擎-ES
大数据·分布式·elasticsearch·搜索引擎·中间件
天河归来10 小时前
第三方接口不稳定,如何让核心任务继续完成
java·大数据
GlobalInfo12 小时前
2026年全球机器人用超平执行器市场研究报告:市场规模达7.51亿美元,人形机器人商业化与轻量化运动控制需求推动行业增长
大数据·人工智能·数码相机·microsoft·机器人
IT古董13 小时前
《Agent开发工程师成长指南》- 第4章 第2节:Prompt设计五要素——任务、角色、上下文、约束与输出格式
大数据·人工智能·prompt
Allen_LVyingbo15 小时前
NVIDIA CUDA Tile 在医疗计算中的算子形式化、算法重构与内核实现
大数据·python·算法·重构·知识图谱·健康医疗·数据库架构
全栈陈序员16 小时前
【Git】从入门到精通(一)—— Git简介:什么是版本控制系统
大数据·git·elasticsearch
中国搜索直付通16 小时前
分账系统有风险吗?资金安全怎么保障?
大数据·支付通道·分账系统·分账支付
一枕槐安48717 小时前
微调 vs Prompt:业务场景下两种方案成本 & 效果对比
大数据·人工智能·prompt·混合架构·推理成本·行为固化·知识边界
SelectDB17 小时前
Apache Doris 与 SelectDB 是什么关系?从开源技术到面向 Agent 的极速分析数据库
大数据·数据库·数据分析