ELK + Filebeat 实战:从零搭建日志采集与分析平台

一、为什么选择 ELK + Filebeat

在分布式系统中,日志分散在多台服务器、多个容器里,排查问题时往往需要登录不同机器逐个 grep,效率极低。ELK(Elasticsearch + Logstash + Kibana)提供了一套完整的日志采集、存储、检索与可视化方案,而 Filebeat 作为轻量级日志采集器,替代了传统 Logstash 在每台业务机上的部署方式,大幅降低了资源占用。

本文将从零开始,带你搭建一套可落地的 ELK + Filebeat 日志平台,并给出生产环境中的常见优化建议。

二、整体架构与组件职责

先明确各组件在链路中的角色,避免后续配置时概念混淆。

组件 职责 部署位置
Filebeat 轻量采集器,监听日志文件并转发 业务服务器 / 容器节点
Logstash 日志解析、过滤、格式化、多路输出 独立日志处理节点
Elasticsearch 分布式存储与全文检索 集群节点
Kibana 可视化查询、仪表盘、告警 与 ES 同机或独立节点

数据流向如下:

flowchart LR A[业务服务器日志] --> B[Filebeat] B -->|Beats 协议 5044| C[Logstash] C -->|9200| D[Elasticsearch] D --> E[Kibana] C -->|可选直连| D

如果日志格式简单、无需复杂解析,也可以让 Filebeat 直接写入 Elasticsearch,省去 Logstash 这一层,降低运维成本。

三、环境准备

本文以单机演示为主,生产环境请按需拆分节点。建议配置:

  • 操作系统:CentOS 7+ / Ubuntu 20.04+
  • 内存:Elasticsearch 至少 4GB,建议 8GB 以上
  • JDK:Elasticsearch 7.x 及以上自带 JDK,无需额外安装
  • 版本统一:ELK 各组件版本务必保持一致,本文以 8.x 为例

关闭防火墙或放行端口:9200(ES HTTP)、9300(ES 传输)、5601(Kibana)、5044(Logstash Beats 输入)。

bash 复制代码
# 调整系统参数
sudo sysctl -w vm.max_map_count=262144
echo "vm.max_map_count=262144" | sudo tee -a /etc/sysctl.conf
创建专用用户(ES 不允许 root 启动)
sudo useradd elastic
sudo passwd elastic

四、安装与配置 Elasticsearch

下载并解压 Elasticsearch:

bash 复制代码
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.11.0-linux-x86_64.tar.gz
tar -zxvf elasticsearch-8.11.0-linux-x86_64.tar.gz
mv elasticsearch-8.11.0 /usr/local/elasticsearch
chown -R elastic:elastic /usr/local/elasticsearch

修改 config/elasticsearch.yml:

yaml 复制代码
cluster.name: elk-cluster
node.name: node-1
path.data: /usr/local/elasticsearch/data
path.logs: /usr/local/elasticsearch/logs
network.host: 0.0.0.0
http.port: 9200
discovery.type: single-node
xpack.security.enabled: false

演示环境为方便起见关闭了安全认证。生产环境务必开启 xpack.security,并配置证书与账号密码。

切换到 elastic 用户启动:

bash 复制代码
su - elastic
/usr/local/elasticsearch/bin/elasticsearch -d
curl http://localhost:9200

看到集群名称、版本号等信息即表示启动成功。

五、安装与配置 Kibana

bash 复制代码
wget https://artifacts.elastic.co/downloads/kibana/kibana-8.11.0-linux-x86_64.tar.gz
tar -zxvf kibana-8.11.0-linux-x86_64.tar.gz
mv kibana-8.11.0 /usr/local/kibana

修改 config/kibana.yml:

yaml 复制代码
server.port: 5601
server.host: "0.0.0.0"
elasticsearch.hosts: ["http://localhost:9200"]
i18n.locale: "zh-CN"

启动 Kibana:

bash 复制代码
/usr/local/kibana/bin/kibana --allow-root &

浏览器访问 http://服务器IP:5601,能看到 Kibana 首页即配置成功。

六、安装与配置 Logstash

bash 复制代码
wget https://artifacts.elastic.co/downloads/logstash/logstash-8.11.0-linux-x86_64.tar.gz
tar -zxvf logstash-8.11.0-linux-x86_64.tar.gz
mv logstash-8.11.0 /usr/local/logstash

新建配置文件 config/logstash-elk.conf,实现接收 Filebeat 数据、解析并写入 ES:

ruby 复制代码
input {
  beats {
    port => 5044
  }
}
filter {
以 Nginx 访问日志为例,使用 grok 解析
grok {
match => {
"message" => "%{IPORHOST:client_ip} - - [%{HTTPDATE:timestamp}] "%{WORD:method} %{URIPATHPARAM:request} HTTP/%{NUMBER:http_version}" %{NUMBER:status:int} %{NUMBER:body_bytes:int}"
}
}
date {
match => ["timestamp", "dd/MMM/yyyy:HH:mm:ss Z"]
target => "@timestamp"
}
mutate {
remove_field => ["timestamp", "agent", "ecs", "input", "log", "host"]
}
}
output {
elasticsearch {
hosts => ["http://localhost:9200"]
index => "nginx-access-%{+YYYY.MM.dd}"
}
stdout { codec => rubydebug }
}

启动 Logstash:

bash 复制代码
/usr/local/logstash/bin/logstash -f /usr/local/logstash/config/logstash-elk.conf

七、安装与配置 Filebeat

在业务服务器上安装 Filebeat:

bash 复制代码
wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-8.11.0-linux-x86_64.tar.gz
tar -zxvf filebeat-8.11.0-linux-x86_64.tar.gz
mv filebeat-8.11.0 /usr/local/filebeat

编辑 filebeat.yml:

yaml 复制代码
filebeat.inputs:
  - type: filestream
    id: nginx-access
    enabled: true
    paths:
      - /var/log/nginx/access.log
    fields:
      log_type: nginx-access
    fields_under_root: true
关闭默认的 ES 直连输出
output.elasticsearch:
enabled: false
输出到 Logstash
output.logstash:
hosts: ["192.168.1.100:5044"]
processors:
add_host_metadata: ~
logging.level: info
logging.to_files: true
logging.files:
path: /var/log/filebeat
name: filebeat
keepfiles: 7

启动并设置开机自启:

bash 复制代码
/usr/local/filebeat/filebeat -e -c /usr/local/filebeat/filebeat.yml -d "publish"

使用 -e 将日志输出到控制台,便于首次调试;确认无误后改为后台运行。

八、Kibana 中验证与可视化

进入 Kibana,依次操作:

  1. 打开 Stack Management → Index Patterns ,创建索引模式 nginx-access-*,时间字段选择 @timestamp。
  2. 进入 Discover,选择刚创建的索引模式,即可看到实时采集的日志。
  3. 在搜索栏使用 KQL 查询,例如 status >= 500 快速定位服务端错误。
  4. 进入 Dashboard,新建可视化图表,统计请求量趋势、状态码分布、Top 客户端 IP 等。

常用查询示例:

text 复制代码
# 查询 5xx 错误
status >= 500
查询指定接口
request: "/api/user/*"
按客户端 IP 聚合
client_ip: "10.0.0.1"

九、生产环境优化建议

  • 索引生命周期管理(ILM):为日志索引配置热温冷架构与自动删除策略,避免磁盘被写满。
  • Filebeat 多行日志 :Java 异常堆栈需配置 multiline 或 filestream 的 parsers,把堆栈合并为一条事件。
  • Logstash 性能 :调整 pipeline.workers 与 pipeline.batch.size,grok 正则尽量精确,避免回溯。
  • ES 分片规划:单分片建议 10GB~50GB,分片数不宜过多,避免集群元数据压力。
  • 安全加固:开启 TLS、账号认证,Filebeat 与 Logstash 之间也建议启用 SSL。
  • 监控告警:结合 Kibana Alerting 或 ElastAlert,对错误日志突增、采集断流进行告警。

十、常见问题排查

现象 可能原因 解决方式
Kibana 无数据 Filebeat 未连上 Logstash 检查 5044 端口与 output.logstash 配置
grok 解析失败 日志格式与正则不匹配 用 Kibana Dev Tools 的 _grokdebug 或在线工具调试
ES 启动报 max_map_count 系统参数过小 执行 sysctl -w vm.max_map_count=262144
索引不按天生成 index 名称未使用日期变量 改为 nginx-access-%{+YYYY.MM.dd}
日志重复采集 registry 文件丢失或重复启动 检查 data/registry,避免多实例共用同一路径

十一、总结

本文完成了 ELK + Filebeat 从环境准备、组件安装、配置联动到 Kibana 可视化的完整链路搭建。核心思路是:Filebeat 负责轻量采集,Logstash 负责解析加工,Elasticsearch 负责存储检索,Kibana 负责展示分析。在此基础上,结合 ILM、多行日志处理、安全加固与告警机制,即可支撑起一套稳定可用的生产级日志平台。

相关推荐
yyuuuzz1 小时前
nginx 502 排查,先看上游超时那一行
android·java·运维·nginx·502
飞奔的瓜牛16 小时前
Nginx 生产环境运维实践:常见问题、关注要点与日常维护
运维·nginx
瑞克-桑切斯21 小时前
Kubernetes 1.28 保姆级新手学习教程
运维·学习·docker·云原生·容器·kubernetes
数据库急诊室_阿哲21 小时前
一次割接后的性能复核记录:基线、样本、回滚点
运维·数据库·dba
忆挽篱笙歌1 天前
systemV进程通信
linux·运维·服务器
飞奔的瓜牛1 天前
Wireshark 抓包实战:呼叫中心项目中的 SIP、DTMF 与 RTP 分析
运维·wireshark
Decay__1 天前
SQLServer 监控体系构建 —— sql_exporter + Prometheus + Grafana 全栈实战
运维·数据库·sql·mysql·架构
遇雪长安1 天前
wslc 来了:Docker Desktop 还要留着吗?
运维·docker·容器
csdn_aspnet1 天前
【Docker 攻略】MySQL 安裝篇
运维·mysql·docker·容器