flink 自定义kudu connector中使用Metrics计数平均吞吐量,并推送到自定义kafkaReporter

文章目录

    • 前言
    • [1. Registering metrics](#1. Registering metrics)
    • [2. Metrics 的类型](#2. Metrics 的类型)
      • [2.1 counter](#2.1 counter)
      • [2.2 Gauge](#2.2 Gauge)
      • [2.3 Histogram](#2.3 Histogram)
      • [2.4 meter](#2.4 meter)
    • [3. 指标划分](#3. 指标划分)
      • [3.1 指标所属的范围](#3.1 指标所属的范围)
      • [3.2 默认所属](#3.2 默认所属)
    • [4. 自定义kudu connector中使用Metrics](#4. 自定义kudu connector中使用Metrics)
      • [4.1 sink算子继承RichFunction](#4.1 sink算子继承RichFunction)
      • [4.2 注册指标](#4.2 注册指标)
      • [4.3 计数逻辑](#4.3 计数逻辑)
      • [4.4 自定义Reporter,推送metric到kafka](#4.4 自定义Reporter,推送metric到kafka)
      • [4.5 结果展示](#4.5 结果展示)

前言

   Flink exposes a metric system that allows gathering and exposing metrics to external systems

1. Registering metrics

  继承RichFunction,调用getRuntimeContext().getMetricGroup()


2. Metrics 的类型

2.1 counter

  计数器,累加或者累减

2.2 Gauge

  提供各种类型的值

2.3 Histogram

  表示度量值的统计结果,如平均值、最大值

2.4 meter

  表示平均吞吐量,单位时间内事件次数


3. 指标划分

3.1 指标所属的范围

3.2 默认所属


4. 自定义kudu connector中使用Metrics

4.1 sink算子继承RichFunction

4.2 注册指标

4.3 计数逻辑

ps:kudu写入实际指标包含2个,一个是每分钟流量,在try代码块中,一个是每分钟错误数量,在catch代码块中


4.4 自定义Reporter,推送metric到kafka



flink-conf.yaml配置注册的类和参数

4.5 结果展示

相关推荐
皮皮学姐分享-ppx6 小时前
政府绿色采购数据库(2015-2024.3)
大数据·网络·数据库·人工智能·制造
无忧智库9 小时前
某公共大数据资源中心平台建设项目可行性研究方案(PPT)
大数据
诗词在线11 小时前
求推荐飞花令
大数据·人工智能·python
湘美书院--湘美谈教育12 小时前
湘美谈教育AI系列经验集锦:赋能整理聊斋志异大寓言
大数据·人工智能·深度学习·神经网络·机器学习
jrjrgood12 小时前
现货黄金和黄金期货的区别有哪些?如何投资?
大数据·人工智能·区块链
清辞85313 小时前
Coze从入门到实战---第一、二章
大数据·人工智能·学习·语言模型
TomatoStudy13 小时前
IT职业教育AI落地与实训体系建设复盘——以职坐标模式为例
大数据·人工智能
Java 码思客14 小时前
【ElasticSearch从入门到架构师】第1章:ElasticSearch 核心认知与行业定位
大数据·elasticsearch·搜索引擎
cui178756814 小时前
物业费收缴困局的破题之路:2026年社区商业逻辑的底层重构
大数据·数据库·人工智能
2501_9336707914 小时前
大数据在校实训项目一般做什么类型内容
大数据