ELK之路第三步——日志收集筛选logstash和filebeat

logstash和filebeat(偷懒版)

前言

上一篇,我们说到了可视化界面Kibana的安装,这一篇,会简单介绍logstash和filebeat的安装和配置。

下一篇,我将融会贯通,将所有的内容结合到一起详细说明:ELK之路第四步------整合!打通任督二脉

logstash

1.下载

打开官网:https://www.elastic.co/cn/downloads/logstash,进去后是最新版本,如果我们要过往版本请点击右侧,需要梯子。

我们这里还是选择7.3.0版本。

下载好后解压

bash 复制代码
tar -zxvf logstash-7.3.0.tar.gz

2.修改配置文件

打开jvm.options

还是先修改启动内存,这个根据你自己来定

bash 复制代码
-Xms256m
-Xmx256m

3.测试启动

bash 复制代码
bin/logstash -e 'input { stdin { } } output { stdout {} }'

等启动完成后,我们输入hello world

显示这个就成功了

4.文件启动

当然,我们常用配置文件来启动,创建一个logstash.conf文件:

bash 复制代码
input {
  heartbeat {
    interval => 10
    type => "heartbeat"
  }
}
 
output {
  stdout {
    codec => rubydebug
  }
}

然后输入命令来启动

bash 复制代码
bin/logstash -f logstash.conf

logstash的conf文件有三大主要配置字段:

  • input :规定了从哪里输入
  • filter :过滤规则,用于过滤筛选输入的信息
  • output :输出到哪里

filebeat

1.下载

有条件的用curl 下载,但是在国内这样下载是很困难的

bash 复制代码
curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.3.0-linux-x86_64.tar.gz

第二种方式去官网下载,挂个梯子就行。

下载好了解压:

bash 复制代码
tar -zxvf filebeat-7.3.0-linux-x86_64.tar.gz

2.配置

新增一个配置文件filebeat_logstash.yml,filebeat启动的时候要用

bash 复制代码
filebeat.inputs:
- type: log
  enabled: true
  paths:
    - /Users/liuxg/data/apache_logs
 
output.logstash:
  hosts: ["localhost:5044"]
  • filebeat.inputs:filebeat读取文件的一些配置
  • output.logstash:输出路径

3.启动

bash 复制代码
bin/filebeat -e -c filebeat_logstash.yml

因为时间有限,本篇属实潦草,后面有时间了,我会详细的补充这两个技术的用法。

相关推荐
livemetee3 小时前
一个完整的日志收集方案:Elasticsearch + Logstash + Kibana+Filebeat (二)
大数据·elk·搜索引擎
Gold Steps.1 天前
从0到1认识ElasticStack
elk·云原生·es
一只BI鱼5 天前
微服务常用日志追踪方案:Sleuth + Zipkin + ELK
elk·微服务·架构
xrz2775 天前
docker部署ELK,ES开启安全认证
elk·elasticsearch·docker
怡人蝶梦6 天前
Java大厂后端技术栈故障排查实战:Spring Boot、Redis、Kafka、JVM典型问题与解决方案
java·jvm·redis·elk·kafka·springboot·prometheus
玩电脑的辣条哥6 天前
如何用docker部署ELK?
elk·docker·容器
万米商云9 天前
商城前端监控体系搭建:基于 Sentry + Lighthouse + ELK 的全链路监控实践
前端·elk·sentry
YJQ99679 天前
基于ELK的分布式日志实时分析与可视化系统设计
分布式·elk
hwj运维之路13 天前
k8s部署ELK补充篇:kubernetes-event-exporter收集Kubernetes集群中的事件
elk·容器·kubernetes
twj_one14 天前
SpringBoot+ELK 搭建日志监控平台
spring boot·后端·elk