开源的 Kafka 管理平台

来源:github.com/provectus/kafka-ui

Apache Kafka UI 是一个免费的开源 Web UI,用于监控和管理 Apache Kafka 集群,可方便地查看 Kafka Brokers、Topics、消息、Consumer 等情况,支持多集群管理、性能监控、访问控制等功能。

1 特征

  • 多集群管理: 在一个地方监控和管理所有集群

  • 使用指标仪表板进行性能监控: 使用轻量级仪表板跟踪关键 Kafka 指标

  • 查看 Kafka Brokers: 查看主题和分区分配、控制器状态

  • 查看 Kafka 主题: 查看分区计数、复制状态和自定义配置

  • 查看消费者组: 查看每个分区的停放偏移量、组合滞后和每个分区滞后

  • 浏览消息: 使用 JSON、纯文本和 Avro 编码浏览消息

  • 动态主题配置: 使用动态配置创建和配置新主题

  • 自定义序列化/反序列化插件: 对数据使用现成的 Serde

  • 基于角色的访问控制: 精确管理访问 UI 的权限

  • 数据脱敏: 混淆主题消息中的敏感数据

2 入门

要运行 Apache Kafka 的 UI,可以使用预构建的 Docker 映像或自行构建它(或 jar 文件)。

快速启动(演示运行)

复制代码
docker run -it -p 8080:8080 -e DYNAMIC_CONFIG_ENABLED=true provectuslabs/kafka-ui

然后访问 http://localhost: 8080

持久安装

复制代码
services:
  kafka-ui:
    container_name: kafka-ui
    image: provectuslabs/kafka-ui:latest
    ports:
      - 8080:8080
    environment:
      DYNAMIC_CONFIG_ENABLED: true
    volumes:
      - ~/kui/config.yml:/etc/kafkaui/dynamic_config.yaml

设置 git

设置 git 凭据:

复制代码
git config --global user.name "Mona Lisa"
git config --global user.email "monalisa@louvre.net"

3 配置向导

动态应用程序配置

图片

默认情况下,kafka-ui 不允许在运行时更改其配置。当应用程序启动时,它会从系统环境、配置文件(application.yaml)和 JVM 参数(由-D)读取配置。一旦配置被读取,它就被视为不可变,即使配置源(例如文件)发生更改也不会刷新。

4 数据脱敏

主题数据脱敏

可以配置 kafka-ui 来屏蔽消息页面中显示的敏感数据。

消除:对于 json 对象 - 删除目标字段,否则 - 返回"null"字符串。

复制代码
- type: REMOVE
  fields: [ "id", "name" ]
  ...

应用示例

复制代码
{ "id": 1234, "name": { "first": "James" }, "age": 30 }
 ->
{ "age": 30 }

5 自定义可插拔 serde 注册

可以实现自己的 serde 并将其注册到 kafka-ui 应用程序中。

  • 添加 kafka-ui-serde-api 依赖项(应该可以通过 mavencentral 下载)

  • 实现 com.provectus.kafka.ui.serde.api.Serde 接口

  • 将 serde 打包到 uber jar 中,或者提供包含无依赖项 jar 及其依赖项 jar 的目录

传送门

开源地址:https://github.com/provectus/kafka-ui

相关推荐
T型码农要学习6 分钟前
开源项目12|Miniflux:自建RSS订阅阅读器,摆脱算法信息流,实现纯净阅读自由
开源
SL_staff34 分钟前
3天上线OKR系统:一名HR与1名工程师如何用JVS完成全栈交付
java·低代码·开源
dong_junshuai35 分钟前
每天一个开源项目#99 OpenResearch:2.2K星的本地研究Agent工作台
开源·github·agent
m4Rk_2 小时前
【论文阅读】Agent 记忆机制(69):STITCH——用上下文意图解决“语义相关但情境错误”的记忆检索
论文阅读·人工智能·学习·开源·github
vipjx12 小时前
百度网盘下载慢怎么办?2026实测PanDownload与助手满速方案
开源
风跟我说过她3 小时前
SQL 一键转经典 Chen 风格 ER 图:开源 CLI + 在线工具 + Agent Skill
数据库·python·sql·开源·开源软件
万物智能信息科技5 小时前
电容触摸 FT5406,另一颗芯片、同一条总线—【万物智能之开源鸿蒙OpenHarmony系统实战开发系列教程】
人工智能·华为·开源·harmonyos·鸿蒙
dong_junshuai5 小时前
每天一个开源项目#97 LLM Wiki:把RAG结果变成可维护知识资产
开源·llm·github
小华同学ai7 小时前
这个开源项目,有点东西!2.9 万 Star DeepTutor
人工智能·开源·github
KANGBboy7 小时前
doris+kafka安装部署(单机+集群)二时钟服务器 java_home
服务器·分布式