云计算 Logstash 配置管理 Kibana数据统计分析

日志分析系统ELK

项目架构图

Logstash 是一个开源的、服务器端的数据收集引擎,与 Elasticsearch 和 Kibana 一起构成了 Elastic Stack(之前称为 ELK Stack)。Logstash 的主要功能是处理和转发数据,它可以从多种数据源收集数据,经过过滤和转换,然后将数据发送到 Elasticsearch 进行索引和存储,最后通过 Kibana 进行数据可视化。

安装 logstash

|----------|--------------|----------|
| logstash | 192.168.1.27 | 最低配置4核8G |

复制代码
dnf install -y logstash     安装
ln -s /etc/logstash /usr/share/logstash/config  创建软链接

/usr/share/logstash/bin/logstash-plugin list 查询logstash安装的插件

input 模块

file 插件

filter 模块

grok 插件

正则表达式分组匹配格式: (?<名字>正则表达式)

正则表达式宏调用格式: %{宏名称:名字}

宏文件路径 : /usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-patterns-core-4.3.4/patterns

output 模块

elasticsearch 插件

Web 日志实时分析

beats 插件

filebeat 安装配置

多日志标签
添加标签
匹配标签
复制代码

数据调试成功以后,可以把 logstash 作为后台服务运行

复制代码
批量安装部署filebeat
验证日志收集

kibana 安装部署

负载均行上监听5601 Elastic

相关推荐
乘云数字DATABUFF1 天前
5分钟部署开源APM Databuff:OpenTelemetry全链路追踪入门实战
运维·后端
荣--3 天前
一键部署不是为了省时间 —— 它是把"买来的 PaaS"变成"自己的平台"的拐点
运维·zabbix·工程化·一键部署·平台化·边界设计
江华森3 天前
动手实战学 Docker — 从零到集群编排完全指南
运维
Avan_菜菜4 天前
FRP 内网穿透完整实战:从 HTTP 映射到 HTTPS 自签代理
运维·nginx·https
SelectDB5 天前
Litefuse 开源并推出单进程轻量模式,25 秒就能跑起来的 Agent 可观测与评估平台
运维·后端·自动化运维
XIAOHEZIcode6 天前
Linux系统鼠标偏移常见原因以及修复方案
linux·运维·游戏
用户0328472220707 天前
如何搭建本地yum源(上)
运维
大树8810 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
摇滚侠10 天前
Linux CentOS7 rpm 安装 MySQL 5.7
linux·运维·mysql
霸道流氓气质10 天前
领域驱动设计(DDD)在 Spring Boot 微服务中的实践指南
运维·spring boot·微服务