elk日志某个时间节点突然搜索不到了

elk日志某个时间节点突然搜索不到了,检查filebeat正常

Kibana手动上传数据:

响应:

Error:

Validation Failed: 1: this action would add [2] total shards, but this cluster currently has [2000]/[2000] maximum shards open

原因:ElasticSearch总分片数量导致的异常,ES总分片数限制最大只有2000个,目前已经用完了,导致已经没法创建新的索引了。

解决方案:

解决方法就是提高ES的分片数量。

方法1:控制台

PUT /_cluster/settings

{

"persistent": {

"cluster": {

"max_shards_per_node":10000

}

}

}

persistent:永久生效,transient:临时生效。

方法2:CURL命令

curl --location --request PUT 'http://127.0.0.1:9200/_cluster/settings' \

--header 'Content-Type: application/json' \

--data '{"persistent":{"cluster":{"max_shards_per_node":10000}}}'

persistent:永久生效,transient:临时生效。

查看是否生效

GET /_cluster/settings?pretty

结果

{

"persistent": {

"cluster": {

"max_shards_per_node": "10000"

}

},

"transient": {}

}

删除索引

查询索引

GET _cat/indices

显示索引的文档数

GET http://127.0.0.1:9200/_cat/count/index_name?v

定期清理索引

方式1:利用ES的索引生命周期
方式2:脚本实现(日期后缀索引YYYY.MM.DD)

#!/bin/bash

###################################

#删除早于十天的ES集群的索引

###################################

function delete_indices() {

comp_date=`date -d "10 day ago" +"%Y-%m-%d"`

date1="$1 00:00:00"

date2="$comp_date 00:00:00"

t1=`date -d "$date1" +%s`

t2=`date -d "$date2" +%s`

if [ $t1 -le $t2 ]; then

echo "1时间早于comp_date,进行索引删除"

#转换一下格式,将类似2017-10-01格式转化为2017.10.01

format_date=`echo $1| sed 's/-/\./g'`

curl -XDELETE http://es-cluster-ip:9200/\*$format_date

fi

}

curl -XGET http://es-cluster-ip:9200/_cat/indices | awk -F" " '{print $3}' | awk -F"-" '{print $NF}' | egrep "[0-9]*\.[0-9]*\.[0-9]*" | sort | uniq | sed 's/\./-/g' | while read LINE

do

#调用索引删除函数

delete_indices $LINE

done

手动删除

修改配置信息为'开启使用通配符或_all'

PUT /_cluster/settings { "transient": { "action.destructive_requires_name": true } }

DELETE /索引名字(可以使用*作为通配符)

相关推荐
Karoku0661 天前
【企业级分布式系统】ELK-企业级日志分析系统
运维·数据库·redis·mysql·elk·缓存
一名技术极客2 天前
徒手从零搭建一套ELK日志平台
elk
jun7788954 天前
SpringBoot整合ELK使用详解
spring boot·后端·elk
yueqingll4 天前
023、ELK 从入门到实践
elk
abandondyy4 天前
ELK Elasticsearch 集群部署
大数据·elk·elasticsearch
小李叭叭叭4 天前
ELK8.15.4搭建开启安全认证
运维·elk·elasticsearch·kibana
光仔December12 天前
【Elasticsearch入门到落地】1、初识Elasticsearch
大数据·elk·elasticsearch·搜索引擎·lucene
太空眼睛13 天前
【EFK】Linux集群部署Elasticsearch最新版本8.x
linux·elk·elasticsearch·efk·master·8.15.3·node.roles
Shenqi Lotus16 天前
ELK-ELK基本概念_ElasticSearch的配置
elk·elasticsearch