一、为什么选择 ELK + Filebeat
在分布式系统中,日志分散在多台服务器、多个容器里,排查问题时往往需要登录不同机器逐个 grep,效率极低。ELK(Elasticsearch + Logstash + Kibana)提供了一套完整的日志采集、存储、检索与可视化方案,而 Filebeat 作为轻量级日志采集器,替代了传统 Logstash 在每台业务机上的部署方式,大幅降低了资源占用。
本文将从零开始,带你搭建一套可落地的 ELK + Filebeat 日志平台,并给出生产环境中的常见优化建议。
二、整体架构与组件职责
先明确各组件在链路中的角色,避免后续配置时概念混淆。
| 组件 | 职责 | 部署位置 |
|---|---|---|
| Filebeat | 轻量采集器,监听日志文件并转发 | 业务服务器 / 容器节点 |
| Logstash | 日志解析、过滤、格式化、多路输出 | 独立日志处理节点 |
| Elasticsearch | 分布式存储与全文检索 | 集群节点 |
| Kibana | 可视化查询、仪表盘、告警 | 与 ES 同机或独立节点 |
数据流向如下:
如果日志格式简单、无需复杂解析,也可以让 Filebeat 直接写入 Elasticsearch,省去 Logstash 这一层,降低运维成本。
三、环境准备
本文以单机演示为主,生产环境请按需拆分节点。建议配置:
- 操作系统:CentOS 7+ / Ubuntu 20.04+
- 内存:Elasticsearch 至少 4GB,建议 8GB 以上
- JDK:Elasticsearch 7.x 及以上自带 JDK,无需额外安装
- 版本统一:ELK 各组件版本务必保持一致,本文以 8.x 为例
关闭防火墙或放行端口:9200(ES HTTP)、9300(ES 传输)、5601(Kibana)、5044(Logstash Beats 输入)。
bash
# 调整系统参数
sudo sysctl -w vm.max_map_count=262144
echo "vm.max_map_count=262144" | sudo tee -a /etc/sysctl.conf
创建专用用户(ES 不允许 root 启动)
sudo useradd elastic
sudo passwd elastic
四、安装与配置 Elasticsearch
下载并解压 Elasticsearch:
bash
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.11.0-linux-x86_64.tar.gz
tar -zxvf elasticsearch-8.11.0-linux-x86_64.tar.gz
mv elasticsearch-8.11.0 /usr/local/elasticsearch
chown -R elastic:elastic /usr/local/elasticsearch
修改 config/elasticsearch.yml:
yaml
cluster.name: elk-cluster
node.name: node-1
path.data: /usr/local/elasticsearch/data
path.logs: /usr/local/elasticsearch/logs
network.host: 0.0.0.0
http.port: 9200
discovery.type: single-node
xpack.security.enabled: false
演示环境为方便起见关闭了安全认证。生产环境务必开启
xpack.security,并配置证书与账号密码。
切换到 elastic 用户启动:
bash
su - elastic
/usr/local/elasticsearch/bin/elasticsearch -d
curl http://localhost:9200
看到集群名称、版本号等信息即表示启动成功。
五、安装与配置 Kibana
bash
wget https://artifacts.elastic.co/downloads/kibana/kibana-8.11.0-linux-x86_64.tar.gz
tar -zxvf kibana-8.11.0-linux-x86_64.tar.gz
mv kibana-8.11.0 /usr/local/kibana
修改 config/kibana.yml:
yaml
server.port: 5601
server.host: "0.0.0.0"
elasticsearch.hosts: ["http://localhost:9200"]
i18n.locale: "zh-CN"
启动 Kibana:
bash
/usr/local/kibana/bin/kibana --allow-root &
浏览器访问 http://服务器IP:5601,能看到 Kibana 首页即配置成功。
六、安装与配置 Logstash
bash
wget https://artifacts.elastic.co/downloads/logstash/logstash-8.11.0-linux-x86_64.tar.gz
tar -zxvf logstash-8.11.0-linux-x86_64.tar.gz
mv logstash-8.11.0 /usr/local/logstash
新建配置文件 config/logstash-elk.conf,实现接收 Filebeat 数据、解析并写入 ES:
ruby
input {
beats {
port => 5044
}
}
filter {
以 Nginx 访问日志为例,使用 grok 解析
grok {
match => {
"message" => "%{IPORHOST:client_ip} - - [%{HTTPDATE:timestamp}] "%{WORD:method} %{URIPATHPARAM:request} HTTP/%{NUMBER:http_version}" %{NUMBER:status:int} %{NUMBER:body_bytes:int}"
}
}
date {
match => ["timestamp", "dd/MMM/yyyy:HH:mm:ss Z"]
target => "@timestamp"
}
mutate {
remove_field => ["timestamp", "agent", "ecs", "input", "log", "host"]
}
}
output {
elasticsearch {
hosts => ["http://localhost:9200"]
index => "nginx-access-%{+YYYY.MM.dd}"
}
stdout { codec => rubydebug }
}
启动 Logstash:
bash
/usr/local/logstash/bin/logstash -f /usr/local/logstash/config/logstash-elk.conf
七、安装与配置 Filebeat
在业务服务器上安装 Filebeat:
bash
wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-8.11.0-linux-x86_64.tar.gz
tar -zxvf filebeat-8.11.0-linux-x86_64.tar.gz
mv filebeat-8.11.0 /usr/local/filebeat
编辑 filebeat.yml:
yaml
filebeat.inputs:
- type: filestream
id: nginx-access
enabled: true
paths:
- /var/log/nginx/access.log
fields:
log_type: nginx-access
fields_under_root: true
关闭默认的 ES 直连输出
output.elasticsearch:
enabled: false
输出到 Logstash
output.logstash:
hosts: ["192.168.1.100:5044"]
processors:
add_host_metadata: ~
logging.level: info
logging.to_files: true
logging.files:
path: /var/log/filebeat
name: filebeat
keepfiles: 7
启动并设置开机自启:
bash
/usr/local/filebeat/filebeat -e -c /usr/local/filebeat/filebeat.yml -d "publish"
使用 -e 将日志输出到控制台,便于首次调试;确认无误后改为后台运行。
八、Kibana 中验证与可视化
进入 Kibana,依次操作:
- 打开 Stack Management → Index Patterns ,创建索引模式
nginx-access-*,时间字段选择@timestamp。 - 进入 Discover,选择刚创建的索引模式,即可看到实时采集的日志。
- 在搜索栏使用 KQL 查询,例如
status >= 500快速定位服务端错误。 - 进入 Dashboard,新建可视化图表,统计请求量趋势、状态码分布、Top 客户端 IP 等。
常用查询示例:
text
# 查询 5xx 错误
status >= 500
查询指定接口
request: "/api/user/*"
按客户端 IP 聚合
client_ip: "10.0.0.1"
九、生产环境优化建议
- 索引生命周期管理(ILM):为日志索引配置热温冷架构与自动删除策略,避免磁盘被写满。
- Filebeat 多行日志 :Java 异常堆栈需配置
multiline或 filestream 的parsers,把堆栈合并为一条事件。 - Logstash 性能 :调整
pipeline.workers与pipeline.batch.size,grok 正则尽量精确,避免回溯。 - ES 分片规划:单分片建议 10GB~50GB,分片数不宜过多,避免集群元数据压力。
- 安全加固:开启 TLS、账号认证,Filebeat 与 Logstash 之间也建议启用 SSL。
- 监控告警:结合 Kibana Alerting 或 ElastAlert,对错误日志突增、采集断流进行告警。
十、常见问题排查
| 现象 | 可能原因 | 解决方式 |
|---|---|---|
| Kibana 无数据 | Filebeat 未连上 Logstash | 检查 5044 端口与 output.logstash 配置 |
| grok 解析失败 | 日志格式与正则不匹配 | 用 Kibana Dev Tools 的 _grokdebug 或在线工具调试 |
ES 启动报 max_map_count |
系统参数过小 | 执行 sysctl -w vm.max_map_count=262144 |
| 索引不按天生成 | index 名称未使用日期变量 | 改为 nginx-access-%{+YYYY.MM.dd} |
| 日志重复采集 | registry 文件丢失或重复启动 | 检查 data/registry,避免多实例共用同一路径 |
十一、总结
本文完成了 ELK + Filebeat 从环境准备、组件安装、配置联动到 Kibana 可视化的完整链路搭建。核心思路是:Filebeat 负责轻量采集,Logstash 负责解析加工,Elasticsearch 负责存储检索,Kibana 负责展示分析。在此基础上,结合 ILM、多行日志处理、安全加固与告警机制,即可支撑起一套稳定可用的生产级日志平台。