云计算 Logstash 配置管理 Kibana数据统计分析

日志分析系统ELK

项目架构图

Logstash 是一个开源的、服务器端的数据收集引擎,与 Elasticsearch 和 Kibana 一起构成了 Elastic Stack(之前称为 ELK Stack)。Logstash 的主要功能是处理和转发数据,它可以从多种数据源收集数据,经过过滤和转换,然后将数据发送到 Elasticsearch 进行索引和存储,最后通过 Kibana 进行数据可视化。

安装 logstash

|----------|--------------|----------|
| logstash | 192.168.1.27 | 最低配置4核8G |

复制代码
dnf install -y logstash     安装
ln -s /etc/logstash /usr/share/logstash/config  创建软链接

/usr/share/logstash/bin/logstash-plugin list 查询logstash安装的插件

input 模块

file 插件

filter 模块

grok 插件

正则表达式分组匹配格式: (?<名字>正则表达式)

正则表达式宏调用格式: %{宏名称:名字}

宏文件路径 : /usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-patterns-core-4.3.4/patterns

output 模块

elasticsearch 插件

Web 日志实时分析

beats 插件

filebeat 安装配置

多日志标签
添加标签
匹配标签
复制代码

数据调试成功以后,可以把 logstash 作为后台服务运行

复制代码
批量安装部署filebeat
验证日志收集

kibana 安装部署

负载均行上监听5601 Elastic

相关推荐
数智工坊5 小时前
Zotero自建Ubuntu WebDAV附件同步方案(完美解决存储空间不足)
linux·运维·ubuntu
独隅7 小时前
GitHub Actions 自动化运维实战:CI/CD 流水线一体化效果展示
运维·自动化·github
饺子大魔王的男人7 小时前
CentOS部署Cockpit:图形化查看系统、日志与服务状态
linux·运维·centos
不会就选b8 小时前
Linux之信号(二)
linux·运维·服务器
qq_267612899 小时前
Gitee项目管理推荐:从工具链割裂到DevOps全链路贯通的企业级协作实践
运维·gitee·devops
寺中人9 小时前
Linux 基础命令入门实战教程:从零掌握常用操作,新手快速上手
linux·运维·服务器·shell·linux 命令·linux 基础教程·linux 入门
V哥AI增长10 小时前
Schema.org 结构化数据与GEO技术落地:AI引擎引用机制与JSON-LD部署实证研究
大数据·运维·人工智能
小张成长计划..10 小时前
【Linux】18:基础IO
linux·运维·服务器
东东最爱敲键盘11 小时前
二阶段总结
运维
Benszen11 小时前
云计算基础-13:Linux网络管理实战-1
linux·运维·云计算