ELK集群 日志中心集群、kafka、logstash

ES:用来日志存储

Logstash:用来日志的搜集,进行日志格式转换并且传送给别人(转发)

Kibana:主要用于日志的展示和分析

kafka

Filebeat:搜集文件数据

es-1

本地解析

vi /etc/hosts

scp /etc/hosts es-2:/etc/hosts

scp /etc/hosts es-3:/etc/hosts

yum -y install wget

安装配置jdk

wget 8u191

scp -3

tar xf jdk-8u191-linux-x64.tar.gz -C /usr/local/

root@es-1 \~\]# vim /etc/profile JAVA_HOME=/usr/local/java PATH=$JAVA_HOME/bin:$PATH export JAVA_HOME PATH \[root@es-1\~\]# source /etc/profile 安装配置ES useradd elsearch ssh es-2 useradd elsearch ssh es-3 useradd elsearch echo "123456" \| passwd --stdin "elsearch" wget els包 ![](https://file.jishuzhan.net/article/1711617597214035970/cf91f3df6a9e3d88f8546e12b311f8ea.webp) ![](https://file.jishuzhan.net/article/1711617597214035970/531118d9d3524fe5794830ca19b045f6.webp) ![](https://file.jishuzhan.net/article/1711617597214035970/6e83610f81f8591b60608558e3eaf660.webp) vim /usr/local/elasticsearch/config/elasticsearch.yml (都删了) cluster.name: xingdiancloud-elk node.name: es-1 node.master: true node.data: true path.data: /data/elasticsearch/data path.logs: /data/elasticsearch/logs bootstrap.memory_lock: false bootstrap.system_call_filter: false network.host: 0.0.0.0 http.port: 9200 discovery.zen.ping.unicast.hosts: \["es-1", "es-2","es-3"

discovery.zen.ping_timeout: 150s

discovery.zen.fd.ping_retries: 10

client.transport.ping_timeout: 60s

http.cors.enabled: true

http.cors.allow-origin: "*"

创建ES数据及日志存储目录

mkdir -p /data/elasticsearch/{logs,data}

scp /usr/local/elasticsearch/config/elasticsearch.yml es-3:/usr/local/elasticsearch/config/elasticsearch.yml

修改安装目录及存储目录权限

系统优化

vi /etc/security/limits.conf

* soft nofile 65536

* hard nofile 131072

* soft nproc 2048

* hard nproc 4096

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

es-2

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

es-3

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

vim /usr/local/elasticsearch-6.5.4/config/elasticsearch.yml (改名字)

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

浏览器访问:IP:9300

kibana

本地解析

vi /etc/hosts

IP es-1、2、3

上传kibana包

vi /usr/local/kibana/config/kibana.yml

server.port: 5601

server.host: "172.16.244.28"

elasticsearch.url: "http://172.16.244.25:9200"

kibana.index: ".kibana"

jobs

ss -antpl 看端口5600

浏览器访问 IP :5601

Nginx安装反向代理

安装

yum -y install nginx httpd-tools

验证节点与kibana时间

三:logstash部署(新机器)

安装jdk8

vi /etc/hosts

ip es-1

vim /etc/profile

JAVA_HOME=/usr/local/java

PATH=JAVA_HOME/bin:PATH

export JAVA_HOME PATH

source /etc/profile

java -version

2.安装logstash

上传logstash包

vi /opt/messages.conf

执行logstash

logstash -f /opt/messages.conf

相关推荐
热爱专研AI的学妹18 分钟前
Seedance 2.0(即梦 2.0)深度解析:AI 视频正式迈入导演级精准可控时代
大数据·人工智能·阿里云·音视频
鹿鸣天涯2 小时前
Xftp传输文件时,解决“无法显示远程文件夹”方法
运维·服务器·计算机
lcj09246662 小时前
磁控U位管理系统与DCIM对接实现:筑牢数据中心精细化运维底座
大数据·数据库·人工智能
unDl IONA3 小时前
服务器部署,用 nginx 部署后页面刷新 404 问题,宝塔面板修改(修改 nginx.conf 配置文件)
运维·服务器·nginx
Web极客码3 小时前
WordPress管理员角色详解及注意事项
运维·服务器·wordpress
geinvse_seg3 小时前
中小团队如何低成本搭建项目管理系统?基于 Ubuntu 的 Dootask 私有化部署实战
linux·运维·ubuntu
星辰徐哥3 小时前
鸿蒙金融理财全栈项目——上线与运维、用户反馈、持续迭代优化
运维·金融·harmonyos
CSCN新手听安3 小时前
【linux】高级IO,以ET模式运行的epoll版本的TCP服务器实现reactor反应堆
linux·运维·服务器·c++·高级io·epoll·reactor反应堆
丶伯爵式3 小时前
Ubuntu 24.04 更换国内软件源指南 | 2026年3月26日
linux·运维·ubuntu·国内源·升级
xingyuzhisuan3 小时前
租用GPU服务器进行深度学习课程教学的实验环境搭建
运维·人工智能·深度学习·gpu算力