ELK实战

大家好,我是升仔

在现代软件开发中,日志管理是不可或缺的一部分。ELK(Elasticsearch、Logstash、Kibana)是一套流行的日志管理解决方案,它可以帮助我们实现高效的日志收集、存储、搜索和可视化。在这篇文章中,我将向你展示如何部署一个基本的ELK栈,并给出相关代码及详细注释。

1、 ELK栈简介

ELK由三个主要组件组成:

  • Elasticsearch:分布式搜索和分析引擎,用于存储所有收集的数据。
  • Logstash:强大的数据处理管道,可以从各种源收集数据,转换数据,并将其发送到Elasticsearch。
  • Kibana:数据可视化的前端界面,用于搜索、查看和交互存储在Elasticsearch中的数据。

2、 环境准备

在开始之前,确保你的环境中已安装以下软件:

  • Java 8或更高版本
  • Elasticsearch 7.x
  • Logstash 7.x
  • Kibana 7.x

3、 Elasticsearch部署

首先,我们从Elasticsearch开始。你可以从Elastic的官方网站下载相应版本的Elasticsearch。

部署Elasticsearch时,可以使用默认配置。以下是一个简单的示例配置:

复制代码
cluster.name: my-elk-cluster
node.name: node-1
network.host: 0.0.0.0
http.port: 9200

这段配置设定了集群名称、节点名称、网络主机和端口。

4、 Logstash部署

Logstash的配置相对复杂一些。你需要定义一个配置文件,指定输入、过滤器和输出。这里是一个基本的示例配置:

复制代码
input {
  file {
    path => "/var/log/*.log"
    start_position => "beginning"
  }
}

filter {
  grok {
    match => { "message" => "%{COMBINEDAPACHELOG}" }
  }
  date {
    match => [ "timestamp", "dd/MMM/yyyy:HH:mm:ss Z" ]
  }
}

output {
  elasticsearch {
    hosts => ["localhost:9200"]
    index => "logstash-%{+YYYY.MM.dd}"
  }
}

这个配置从/var/log/目录中读取日志文件,使用grok过滤器解析日志格式,并将解析后的数据发送到Elasticsearch。

5、 Kibana部署

Kibana的安装通常非常直接。下载并解压缩Kibana,然后启动即可。你可能需要修改kibana.yml文件中的Elasticsearch URL以指向你的Elasticsearch实例:

复制代码
server.port: 5601
server.host: "0.0.0.0"
elasticsearch.hosts: ["http://localhost:9200"]

以上配置设定了Kibana的服务端口、主机和连接的Elasticsearch主机。

6、 验证和测试

部署完成后,你可以通过访问http://localhost:5601来打开Kibana界面,并检查Elasticsearch和Logstash是否正确发送和索引了数据。

最后说一句(求关注,求赞,别白嫖)

最近无意间获得一份阿里大佬写的刷题笔记,一下子打通了我的任督二脉,进大厂原来没那么难。

这是大佬写的,7701页的BAT大佬写的刷题笔记,让我offer拿到手软

本文已收录于我的技术网站,next-java.com, 有大厂完整面经,工作技术等经验分享

求一键三连:点赞、分享、收藏

点赞对我真的非常重要!在线求赞,加个关注非常感激

相关推荐
Long_poem3 天前
【自学笔记】ELK基础知识点总览-持续更新
笔记·elk·jenkins
奔跑吧邓邓子6 天前
【商城实战(97)】ELK日志管理系统的全面应用
elk·日志管理系统·商城实战
yunqi12157 天前
【监控系列】ELK
elk
北枫寒夜8 天前
简单ELK框架搭建
elk
DS_Watson15 天前
docker 部署elk 设置账号密码
linux·elk·docker
落魄实习生17 天前
ELK(Elasticsearch、Logstash、Kbana)安装及Spring应用
spring·elk·elasticsearch
1 Byte17 天前
【微服务日志收集①】使用FileBeat+Logstash+ES搭建ELK日志系统
elk·elasticsearch·日志收集系统
戏神19 天前
ELK+Filebeat+Kafka+Zookeeper安装部署
nginx·elk·zookeeper·kafka·filebeat·集群部署·分布式系统
C1829818257519 天前
ELK traceId 通过A服务调用B服务举例
hive·hadoop·elk
WeiLai111222 天前
面试基础---实时日志分析系统设计深度解析:ELK + Kafka + Flink
java·分布式·后端·elk·面试·架构·kafka