云计算 Logstash 配置管理 Kibana数据统计分析

日志分析系统ELK

项目架构图

Logstash 是一个开源的、服务器端的数据收集引擎,与 Elasticsearch 和 Kibana 一起构成了 Elastic Stack(之前称为 ELK Stack)。Logstash 的主要功能是处理和转发数据,它可以从多种数据源收集数据,经过过滤和转换,然后将数据发送到 Elasticsearch 进行索引和存储,最后通过 Kibana 进行数据可视化。

安装 logstash

|----------|--------------|----------|
| logstash | 192.168.1.27 | 最低配置4核8G |

复制代码
dnf install -y logstash     安装
ln -s /etc/logstash /usr/share/logstash/config  创建软链接

/usr/share/logstash/bin/logstash-plugin list 查询logstash安装的插件

input 模块

file 插件

filter 模块

grok 插件

正则表达式分组匹配格式: (?<名字>正则表达式)

正则表达式宏调用格式: %{宏名称:名字}

宏文件路径 : /usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-patterns-core-4.3.4/patterns

output 模块

elasticsearch 插件

Web 日志实时分析

beats 插件

filebeat 安装配置

多日志标签
添加标签
匹配标签
复制代码

数据调试成功以后,可以把 logstash 作为后台服务运行

复制代码
批量安装部署filebeat
验证日志收集

kibana 安装部署

负载均行上监听5601 Elastic

相关推荐
hj2862519 小时前
linux下一步学习内容
linux·运维
睡不醒男孩03082310 小时前
数据库高可用运维实操指南:基于CLup的PostgreSQL生产环境自动化管理
运维·数据库·postgresql
V搜xhliang024610 小时前
临床科研新范式:从选题到投稿,AI智能体如何接管全流程?
运维·数据结构·人工智能·算法·microsoft·数据挖掘·自动化
tudoSearcher11 小时前
日志、指标、链路追踪:可观测性三支柱深度解析
运维·服务器·网络·prometheus
xier_ran11 小时前
【infra之路】Linux基础命令与系统排查
linux·运维·服务器
zh路西法11 小时前
【Linux 串口通信】基于 C++ 多线程的同步/异步串口实现
linux·运维·c++·python
c2385611 小时前
linux基础2
linux·运维·服务器
vortex511 小时前
Linux 默认 SUID 可执行文件详解
linux·运维
阿狸猿12 小时前
论负载均衡技术在 Web 系统中的应用
运维·前端·负载均衡
Adorable老犀牛12 小时前
靠Claude Code写了登录助手AuthDash:一键自动登录,每天节省10分钟——这才是AI编程的降本增效
运维·ai编程·claudecode