Elasticsearch+Logstash+Filebeat+Kibana部署

软件说明:

所有软件包下载地址:https://www.elastic.co/cn/downloads/past-releases

打开页面后选择对应的组件及版本即可!

所有软件包名称如下:

架构拓扑:

1、集群模式:

2、单机模式

架构规划:

1、集群模式

角色 主机名 IP地址
图形展示 kibana 192.168.166.111
日志存储 es1 192.168.158.6
es2 192.168.166.113
es3 192.168.166.114
日志收集分析 lostash1 192.168.166.166
lostash2 192.168.166.116
lostash3 192.168.166.117
日志采集 access、error 192.168.166.118

2、单机模式

角色 主机名 IP地址
图形展示 kibana 192.168.52.
日志存储 es 192.168.52.
日志收集分析 lostash 192.168.52.
日志采集 access、error 192.168.52.

一、配置准备

主机IP:192.168.52.202

1、关闭防火墙与安全上下文

cpp 复制代码
systemctl disable --now firewalld
cpp 复制代码
setenforce 0
cpp 复制代码
yum install -y lrzsz

2、安装elasticsearch、Kibana、logstash、filebeat

cpp 复制代码
rpm -ivh kibana-7.1.1-x86_64.rpm 
rpm -ivh elasticsearch-7.1.1-x86_64.rpm 
rpm -ivh logstash-7.1.1.rpm
rpm -ivh filebeat-7.1.1-x86_64.rpm

3、下载java,需要Java环境

cpp 复制代码
yum -y install java-1.8.0-openjdk-devel.x86_64

二、单机模式 ELK部署

1、elasticsearch配置

进入配置文件

cpp 复制代码
vim /etc/elasticsearch/elasticsearch.yml
cpp 复制代码
http.cors.enabled: true
http.cors.allow-origin: "*"

1.1、启动elasticsearch服务

cpp 复制代码
systemctl start elasticsearch.service 

查看启用状态

查看监听端口

2、logstash部署

cpp 复制代码
cd /etc/logstash/conf.d/
ls
vim pipline.conf
cpp 复制代码
input {
  file {
    path => "/var/log/messages"
    start_position => "beginning"
  }
}
output {
  elasticsearch {
    hosts => ["http://192.168.52.202:9200"]
    index => "system-log-%{+YYYY.MM.dd}"
  }
###日志进行标准输出,观察日志获取的过程###
  stdout {
    codec => rubydebug
  }
}

优化logstash命令

cpp 复制代码
ln -s /usr/share/logstash/bin/logstash /usr/local/bin/

3、kibana部署

进入配置文件

cpp 复制代码
vim /etc/kibana/kibana.yml

3.1、启动服务kebana服务

cpp 复制代码
systemctl start kibana.service

查看状态

cpp 复制代码
netstat -anput | grep node

4、验证

cpp 复制代码
[root@localhost elasticsearch]# logstash -e 'input{ stdin{} }output { stdout{} }'
cpp 复制代码
[root@localhost elasticsearch]# logstash -e 'input { stdin{} } output { stdout{ codec=>rubydebug }}'

5、网页验证

6、生成表格

cpp 复制代码
[root@elk elasticsearch]# logstash -f /etc/logstash/conf.d/pipline.conf
相关推荐
库库的数据库笔记4 小时前
国产信创数据库的MySQL兼容性深度对比解析
大数据·数据库·mysql·oceanbase·政务
Elastic 中国社区官方博客5 小时前
我们如何通过 70 多个拉取请求,将 OpenTelemetry Java agent 迁移到 invokedynamic
java·大数据·开发语言·elasticsearch·搜索引擎·全文检索·es
珠海西格电力7 小时前
零碳园区管理系统的性能评估体系的行业标准
大数据·网络·人工智能·物联网·机器学习·架构·能源
杨先生哦7 小时前
SOC告警研判实战:海量告警降噪、误报甄别、内网风险处置全流程(上岗必用)
大数据
一线数智7 小时前
朱鹰:人的判断力,比算力更重要
大数据·人工智能
用户3610588626128 小时前
Flink ResourceManager启动流程源码深度剖析:从ClusterEntrypoint到Slot分配的完整链路
大数据
用户3610588626129 小时前
Flink ApplicationMaster启动流程源码深度剖析:从YARN提交到JobMaster启动的完整链路
大数据·flink
初心未改HD9 小时前
DSH Skill开发实战:SKILL.md是给LLM看的操作手册,不是给人看的README,踩了4个坑
java·大数据·开发语言
程序 代码狂人9 小时前
据仓库常见表类型详解(面试完整版,金融数仓适用)
大数据
阿里云大数据AI技术10 小时前
云栖实录|Hologres 5.0全新发布:Agent Native 的全模态实时数仓
大数据·人工智能·agent