Elasticsearch+Logstash+Filebeat+Kibana部署

软件说明:

所有软件包下载地址:https://www.elastic.co/cn/downloads/past-releases

打开页面后选择对应的组件及版本即可!

所有软件包名称如下:

架构拓扑:

1、集群模式:

2、单机模式

架构规划:

1、集群模式

角色 主机名 IP地址
图形展示 kibana 192.168.166.111
日志存储 es1 192.168.158.6
es2 192.168.166.113
es3 192.168.166.114
日志收集分析 lostash1 192.168.166.166
lostash2 192.168.166.116
lostash3 192.168.166.117
日志采集 access、error 192.168.166.118

2、单机模式

角色 主机名 IP地址
图形展示 kibana 192.168.52.
日志存储 es 192.168.52.
日志收集分析 lostash 192.168.52.
日志采集 access、error 192.168.52.

一、配置准备

主机IP:192.168.52.202

1、关闭防火墙与安全上下文

cpp 复制代码
systemctl disable --now firewalld
cpp 复制代码
setenforce 0
cpp 复制代码
yum install -y lrzsz

2、安装elasticsearch、Kibana、logstash、filebeat

cpp 复制代码
rpm -ivh kibana-7.1.1-x86_64.rpm 
rpm -ivh elasticsearch-7.1.1-x86_64.rpm 
rpm -ivh logstash-7.1.1.rpm
rpm -ivh filebeat-7.1.1-x86_64.rpm

3、下载java,需要Java环境

cpp 复制代码
yum -y install java-1.8.0-openjdk-devel.x86_64

二、单机模式 ELK部署

1、elasticsearch配置

进入配置文件

cpp 复制代码
vim /etc/elasticsearch/elasticsearch.yml
cpp 复制代码
http.cors.enabled: true
http.cors.allow-origin: "*"

1.1、启动elasticsearch服务

cpp 复制代码
systemctl start elasticsearch.service 

查看启用状态

查看监听端口

2、logstash部署

cpp 复制代码
cd /etc/logstash/conf.d/
ls
vim pipline.conf
cpp 复制代码
input {
  file {
    path => "/var/log/messages"
    start_position => "beginning"
  }
}
output {
  elasticsearch {
    hosts => ["http://192.168.52.202:9200"]
    index => "system-log-%{+YYYY.MM.dd}"
  }
###日志进行标准输出,观察日志获取的过程###
  stdout {
    codec => rubydebug
  }
}

优化logstash命令

cpp 复制代码
ln -s /usr/share/logstash/bin/logstash /usr/local/bin/

3、kibana部署

进入配置文件

cpp 复制代码
vim /etc/kibana/kibana.yml

3.1、启动服务kebana服务

cpp 复制代码
systemctl start kibana.service

查看状态

cpp 复制代码
netstat -anput | grep node

4、验证

cpp 复制代码
[root@localhost elasticsearch]# logstash -e 'input{ stdin{} }output { stdout{} }'
cpp 复制代码
[root@localhost elasticsearch]# logstash -e 'input { stdin{} } output { stdout{ codec=>rubydebug }}'

5、网页验证

6、生成表格

cpp 复制代码
[root@elk elasticsearch]# logstash -f /etc/logstash/conf.d/pipline.conf
相关推荐
得物技术9 小时前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子11 小时前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树881 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1231 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch
果丁智能1 天前
物联网智能锁赋能集中式住宿:身份核验与远程权限管控的全链路技术实践
大数据·人工智能·物联网·智能家居
ApacheSeaTunnel1 天前
实战演示 | 基于 Apache SeaTunnel 与 Apache DolphinScheduler 实现 MySQL 到 Doris 离线定时增量同步
大数据·mysql·开源·doris·数据集成·seatunnel·数据同步
weixin_397574091 天前
PDF复杂表格的1:1还原引擎:跨页表格自动拼接技术实战
大数据·人工智能·pdf
TableRow1 天前
参数化搜索的实现原理:从多维索引到查询优化
elasticsearch·全文检索
极光代码工作室1 天前
基于数据仓库的电商数据分析平台
大数据·hadoop·python·spark·数据可视化
秋名山码民1 天前
Graph RAG 深度解析:从向量检索到知识推理的技术演进
大数据·人工智能·rag