ELK集群 日志中心集群、kafka、logstash

ES:用来日志存储

Logstash:用来日志的搜集,进行日志格式转换并且传送给别人(转发)

Kibana:主要用于日志的展示和分析

kafka

Filebeat:搜集文件数据

es-1

本地解析

vi /etc/hosts

scp /etc/hosts es-2:/etc/hosts

scp /etc/hosts es-3:/etc/hosts

yum -y install wget

安装配置jdk

wget 8u191

scp -3

tar xf jdk-8u191-linux-x64.tar.gz -C /usr/local/

root@es-1 \~# vim /etc/profile

JAVA_HOME=/usr/local/java

PATH=JAVA_HOME/bin:PATH

export JAVA_HOME PATH

root@es-1\~# source /etc/profile

安装配置ES

useradd elsearch

ssh es-2 useradd elsearch

ssh es-3 useradd elsearch

echo "123456" | passwd --stdin "elsearch"

wget els包

vim /usr/local/elasticsearch/config/elasticsearch.yml

(都删了)

cluster.name: xingdiancloud-elk

node.name: es-1

node.master: true

node.data: true

path.data: /data/elasticsearch/data

path.logs: /data/elasticsearch/logs

bootstrap.memory_lock: false

bootstrap.system_call_filter: false

network.host: 0.0.0.0

http.port: 9200

discovery.zen.ping.unicast.hosts: "es-1", "es-2","es-3"

discovery.zen.ping_timeout: 150s

discovery.zen.fd.ping_retries: 10

client.transport.ping_timeout: 60s

http.cors.enabled: true

http.cors.allow-origin: "*"

创建ES数据及日志存储目录

mkdir -p /data/elasticsearch/{logs,data}

scp /usr/local/elasticsearch/config/elasticsearch.yml es-3:/usr/local/elasticsearch/config/elasticsearch.yml

修改安装目录及存储目录权限

系统优化

vi /etc/security/limits.conf

* soft nofile 65536

* hard nofile 131072

* soft nproc 2048

* hard nproc 4096

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

es-2

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

es-3

echo "123456" | passwd --stdin "elsearch"

mkdir -p /data/elasticsearch/{logs,data}

vim /usr/local/elasticsearch-6.5.4/config/elasticsearch.yml (改名字)

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

sysctl -p

su - elsearch -c "cd /usr/local/elasticsearch && nohup bin/elasticsearch &"

ss -antpl //看9200

浏览器访问:IP:9300

kibana

本地解析

vi /etc/hosts

IP es-1、2、3

上传kibana包

vi /usr/local/kibana/config/kibana.yml

server.port: 5601

server.host: "172.16.244.28"

elasticsearch.url: "http://172.16.244.25:9200"

kibana.index: ".kibana"

jobs

ss -antpl 看端口5600

浏览器访问 IP :5601

Nginx安装反向代理

安装

yum -y install nginx httpd-tools

验证节点与kibana时间

三:logstash部署(新机器)

安装jdk8

vi /etc/hosts

ip es-1

vim /etc/profile

JAVA_HOME=/usr/local/java

PATH=JAVA_HOME/bin:PATH

export JAVA_HOME PATH

source /etc/profile

java -version

2.安装logstash

上传logstash包

vi /opt/messages.conf

执行logstash

logstash -f /opt/messages.conf

相关推荐
BJ_Bonree18 分钟前
聊点技术 | Bonree ONE 业务链路观测实战 支付成功率下降,问题究竟出在哪一环?
大数据·人工智能
前端 贾公子22 分钟前
第 6 章:MCP 服务器介绍与接入
运维·服务器·网络
-梅36 分钟前
GitHub Actions 自动化:5 个真实运维提效案例
运维·自动化·github
IT研究室38 分钟前
最新大数据毕业设计选题推荐-基于大数据的Kaggle竞赛团队协作模式与效能可视化分析-大数据-Spark-Hadoop-Bigdata
大数据·spark·课程设计
syntaxsage39 分钟前
Dive:Docker 镜像层可视化分析工具
运维·其他·docker·容器
java_logo40 分钟前
Docker 部署 Samba:轻松搭建局域网文件共享
运维·docker·容器·文件共享·samba·smb·轩辕镜像
骑着蜗牛撵大象32741 分钟前
闲鱼捡漏自动化:关键词加价格上限先粗筛,AI 大模型再做第一轮判定
大数据·人工智能·ai·自动化·二手交易·闲鱼·关键词监控
渣渣盟44 分钟前
Flink 状态管理深度剖析:从 KeyedState 到 RocksDB,状态如何存储、恢复与扩缩容
android·大数据·flink
Data-Miner1 小时前
不本地部署,大模型怎么安全用?
大数据·人工智能·安全
corey931 小时前
Linux 学习 - 第十四周作业
linux·运维·学习