云计算 Logstash 配置管理 Kibana数据统计分析

日志分析系统ELK

项目架构图

Logstash 是一个开源的、服务器端的数据收集引擎,与 Elasticsearch 和 Kibana 一起构成了 Elastic Stack(之前称为 ELK Stack)。Logstash 的主要功能是处理和转发数据,它可以从多种数据源收集数据,经过过滤和转换,然后将数据发送到 Elasticsearch 进行索引和存储,最后通过 Kibana 进行数据可视化。

安装 logstash

|----------|--------------|----------|
| logstash | 192.168.1.27 | 最低配置4核8G |

复制代码
dnf install -y logstash     安装
ln -s /etc/logstash /usr/share/logstash/config  创建软链接

/usr/share/logstash/bin/logstash-plugin list 查询logstash安装的插件

input 模块

file 插件

filter 模块

grok 插件

正则表达式分组匹配格式: (?<名字>正则表达式)

正则表达式宏调用格式: %{宏名称:名字}

宏文件路径 : /usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-patterns-core-4.3.4/patterns

output 模块

elasticsearch 插件

Web 日志实时分析

beats 插件

filebeat 安装配置

多日志标签
添加标签
匹配标签
复制代码

数据调试成功以后,可以把 logstash 作为后台服务运行

复制代码
批量安装部署filebeat
验证日志收集

kibana 安装部署

负载均行上监听5601 Elastic

相关推荐
无奈笑天下6 小时前
银河麒麟上nproc命令教程详解
linux·运维·服务器
威嵌神州10 小时前
嵌入式排故实录:高并发下串口数据“超时丢包”的根因剖析与架构优化
运维·服务器·嵌入式硬件·缓存
Decay__11 小时前
SQLServer 索引与 SQL 优化 —— 聚集索引、非聚集索引、覆盖索引、碎片维护与执行计划
运维·数据库·sql·mysql·架构
java_logo11 小时前
Docker 部署 DeepSeek Harness(moelin):轻松搭建带登录的本地 AI Agent 平台
运维·docker·容器·ai agent·deepseek·harness·轩辕镜像
打工仔折腾 AI17 小时前
Changedetection.io 网页变动监控:Docker 部署、通知配置与公网暴露实践
运维·人工智能·后端·python·docker·容器·性能优化
无奈笑天下17 小时前
银河麒麟上lsblk命令教程详解
linux·运维·服务器·数据库
fengkai454517 小时前
Prometheus+K8s弹性伸缩综合项目
运维·kubernetes·k8s·prometheus·hpa·vpa
分布式存储与RustFS19 小时前
镜像仓库的层别只堆本地盘:用 RustFS 给 Harbor 当 S3 后端
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
雪落漂泊21 小时前
Liunux进程(七):程序控制篇(中)
linux·运维·windows
分布式存储与RustFS21 小时前
工作流脚本和依赖 JAR 散在各节点本地盘:用 DolphinScheduler 资源中心接到 RustFS
运维·云原生·开源·对象存储·分布式存储·s3·性能基准