ELK配置转存redis缓存,采集nginx访问日志

在136服务器上部署mysql

启动mysql服务

可通过以下命令查找安装的软件包

怎么查找安装软件的日志文件位置rpm -qc mysql-server,即可显示mysql.log位置

也可通过查找配置文件中的log关键字来查找log文件日志位置

用awk命令,以=切割,输出第二个字段

rpm -ql 也可查找

编辑logstash配置文件

添加mysql日志信息配置文件

重启logstash配置文件

登录前台查看

只采集nginx日志,配置nginx_logs.conf,修改索引

看到9600端口启动成功,即配置启动成功

搜索索引,选择索引模式,添加新的索引

点击创建索引模式

重新访问nginx服务器生成新的nginx日志文件,即可加载出nginx日志文件

以时间字段作为筛选

此时显示日志配置成功,通过135服务器重新访问136nginx服务,前台显示出访问信息

添加mysql单独索引日志显示服务

但是不能连续重启nginx和mysql日志加载配置文件,需要将其配置日志文件放在一个文件夹下,进行加载显示,配置logstash.yml文件

在配置的目录下创建配置文件

用以下方式重新启动配置文件

修改文件pipelines.yml内容配置文件目录

加入该配置文件后,etc目录下会生成以下文件内容

在135服务器上安装redis服务,配置监听为全网监听

启动redis服务

进入redis,查看redis中的键值

在136上配置用redis缓存技术,将logstash采集的日志存储到redis中

重新加载配置文件在config文件夹下,执行../bin/logstash -f nginx_logs.conf

在135服务器上监控redis

虽然有访问数据,但是没有key,不知道哪里原因,重新单独测试,先写入redis中

停掉135上的elk进程,直接停掉java进程即可pkill java

编辑logstash配置文件nginx_log.conf,vim nginx_log.conf,删除之前的写入els服务模块内容

重新加载配置文件../bin/logstash -f nginx_log.conf

访问nginx测试页面

查看redis服务中的键值,即可看到访问信息

至此测试成功,下次测试同时先转存redis,在转存到els,在前台kibana页面显示出来

相关推荐
都叫我大帅哥2 分钟前
Redis AOF持久化深度解析:命令日志的终极生存指南
redis
都叫我大帅哥7 分钟前
Redis RDB持久化深度解析:内存快照的魔法与陷阱
redis
KoiHeng1 小时前
操作系统简要知识
linux·笔记
Hello.Reader4 小时前
Redis 延迟监控深度指南
数据库·redis·缓存
ybq195133454314 小时前
Redis-主从复制-分布式系统
java·数据库·redis
马里奥Marioぅ4 小时前
Redis主从切换踩坑记:当Redisson遇上分布式锁的“死亡连接“
redis·分布式锁·redisson·故障转移
Johny_Zhao5 小时前
Docker + CentOS 部署 Zookeeper 集群 + Kubernetes Operator 自动化运维方案
linux·网络安全·docker·信息安全·zookeeper·kubernetes·云计算·系统运维
小毛驴8505 小时前
Linux 后台启动java jar 程序 nohup java -jar
java·linux·jar
一心0926 小时前
ubuntu 20.04.6 sudo 源码包在线升级到1.9.17p1
运维·ubuntu·sudo·漏洞升级
好好学习啊天天向上6 小时前
世上最全:ubuntu 上及天河超算上源码编译llvm遇到的坑,cmake,ninja完整过程
linux·运维·ubuntu·自动性能优化