ELK集群 日志中心集群、kafka、logstash

ES:用来日志存储

Logstash:用来日志的搜集,进行日志格式转换并且传送给别人(转发)

Kibana:主要用于日志的展示和分析

kafka

Filebeat:搜集文件数据

es-1

本地解析

vi /etc/hosts

scp /etc/hosts es-2:/etc/hosts

scp /etc/hosts es-3:/etc/hosts

yum -y install wget

安装配置jdk

wget 8u191

scp -3

tar xf jdk-8u191-linux-x64.tar.gz -C /usr/local/

root@es-1 \~# vim /etc/profile

JAVA_HOME=/usr/local/java

PATH=JAVA_HOME/bin:PATH

export JAVA_HOME PATH

root@es-1\~# source /etc/profile

安装配置ES

useradd elsearch

ssh es-2 useradd elsearch

ssh es-3 useradd elsearch

echo "123456" | passwd --stdin "elsearch"

wget els包

vim /usr/local/elasticsearch/config/elasticsearch.yml

(都删了)

cluster.name: xingdiancloud-elk

node.name: es-1

node.master: true

node.data: true

path.data: /data/elasticsearch/data

path.logs: /data/elasticsearch/logs

bootstrap.memory_lock: false

bootstrap.system_call_filter: false

network.host: 0.0.0.0

http.port: 9200

discovery.zen.ping.unicast.hosts: "es-1", "es-2","es-3"

discovery.zen.ping_timeout: 150s

discovery.zen.fd.ping_retries: 10

client.transport.ping_timeout: 60s

http.cors.enabled: true

http.cors.allow-origin: "*"

创建ES数据及日志存储目录

mkdir -p /data/elasticsearch/{logs,data}

scp /usr/local/elasticsearch/config/elasticsearch.yml es-3:/usr/local/elasticsearch/config/elasticsearch.yml

修改安装目录及存储目录权限

系统优化

vi /etc/security/limits.conf

* soft nofile 65536

* hard nofile 131072

* soft nproc 2048

* hard nproc 4096

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

es-2

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

es-3

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

vim /usr/local/elasticsearch-6.5.4/config/elasticsearch.yml (改名字)

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

浏览器访问:IP:9300

kibana

本地解析

vi /etc/hosts

IP es-1、2、3

上传kibana包

vi /usr/local/kibana/config/kibana.yml

server.port: 5601

server.host: "172.16.244.28"

elasticsearch.url: "http://172.16.244.25:9200"

kibana.index: ".kibana"

jobs

ss -antpl 看端口5600

浏览器访问 IP :5601

Nginx安装反向代理

安装

yum -y install nginx httpd-tools

验证节点与kibana时间

三:logstash部署(新机器)

安装jdk8

vi /etc/hosts

ip es-1

vim /etc/profile

JAVA_HOME=/usr/local/java

PATH=JAVA_HOME/bin:PATH

export JAVA_HOME PATH

source /etc/profile

java -version

2.安装logstash

上传logstash包

vi /opt/messages.conf

执行logstash

logstash -f /opt/messages.conf

相关推荐
2401_86853478几秒前
简要说明PON下行和上传数据方式
运维·服务器·网络
weixin_403810132 分钟前
iOS 自动化脚本怎么输入文字:代理、输入法与快捷指令三级方案
运维·ios·自动化
QQ_21696290968 分钟前
基于C#(Asp.net)电竞陪玩信息管理系统的设计与实现
java·大数据·spring boot·微信小程序·c#·云计算·asp.net
计算机毕业设计杰瑞9 分钟前
【最新大数据项目】基于大数据的能见度探测数据分析与可视化,附源码_高质量项目_可视化_数据分析_毕设选题推荐_SPark_Hadoop_毕设指导
大数据·信息可视化·数据挖掘·课程设计
计算机毕业编程指导师12 分钟前
【计算机毕设选题推荐】基于Spark的多源影视数据整合质量评估与可视化分析系统全解析 源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·数据分析·spark·影视
ai小陈8 小时前
GPU服务器租用存储验收:检查点写入与磁盘吞吐实战
运维·服务器·人工智能·ai·ssh·gpu算力
微三云马玮均—GEO源码系统 私有化部署8 小时前
消费返物业费:消费+服务趋势的必然产物!
大数据·人工智能·物联网·区块链·生活
workflower10 小时前
AI system product quality model
大数据·人工智能·机器学习·云计算·无人机
yl453011 小时前
硫酸泄露处理生产商怎么选才够专业
大数据·人工智能·python
有毒的教程11 小时前
VMware仅主机模式:物理机 ↔ 虚拟机 文件共享
运维