elasticsearch快照存储到linux本地路径或分布式存储系统mioio

一、使用linux本地目录做快照存储

1.编辑 elasticsearch.yml 文件,添加以下配置:

bash 复制代码
path.repo: ["/path/to/your/backup/dir"]

2.创建一个文件系统类型的快照仓库

bash 复制代码
PUT /_snapshot/my_local_repository
{
  "type": "fs",
  "settings": {
    "location": "/path/to/your/backup/dir",
    "compress": true
  }
}


my_local_repository为仓库名称

3.创建快照

bash 复制代码
PUT /_snapshot/my_local_repository/snapshot_1
{
  "indices": "index_1,index_2",
  "ignore_unavailable": true,
  "include_global_state": false
}


PUT /_snapshot/my_local_repository/snapshot_1
{
  "indices": "*",
  "ignore_unavailable": true,
  "include_global_state": false
}

snapshot_1为快照名称

4.恢复快照

bash 复制代码
POST /_snapshot/my_local_repository/snapshot_1/_restore
{
  "indices": "index_1"
}

二、使用minio本地目录做快照存储

1.安装 repository-s3 插件

bash 复制代码
./elasticsearch-plugin install repository-s3

2.验证插件是否安装成功

bash 复制代码
./elasticsearch-plugin list

3.在 elasticsearch.yml 中配置 S3 仓库: 添加以下内容来启用 S3 仓库:

bash 复制代码
s3.client.default.endpoint: "http://192.168.43.185:9000"
s3.client.default.access_key: "minioadmin"
s3.client.default.secret_key: "minioadmin"
s3.client.default.protocol: "http"

4.将 access_key 和 secret_key 添加到 keystore

bash 复制代码
./elasticsearch-keystore add s3.client.default.access_key
./elasticsearch-keystore add s3.client.default.secret_key


s3.client.default.access_key: 登录账户
s3.client.default.secret_key:登录密码

5.验证 keystore 配置

bash 复制代码
./elasticsearch-keystore list

6.删除错误的 keystore 项

bash 复制代码
./elasticsearch-keystore remove add

7.创建存储库

bash 复制代码
PUT /_snapshot/es_snapshot_repository
{
  "type": "s3",
  "settings": {
    "bucket": "es-snap-shot",
    "endpoint": "http://192.168.43.185:9000",
    "protocol": "http",
    "region": "us-east-1",
    "compress": true
  }
}

es_snapshot_repository : 仓库名称

8.创建快照

bash 复制代码
PUT /_snapshot/es_snapshot_repository /snapshot_1
{
  "indices": "index_1,index_2",  // 指定要备份的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否包括集群全局状态
}


 PUT /_snapshot/es_snapshot_repository /snapshot2
{
  "indices": "*",  // 指定要备份的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否包括集群全局状态
}

ignore_unavailable 是一个可选参数,指定是否忽略那些在快照创建时不可用的索引。
include_global_state 指定是否包括集群的全局状态,如模板和集群设置。
  1. 查看快照状态
bash 复制代码
GET /_snapshot/es_snapshot_repository /snapshot_1/_status

10.列出所有快照

如果想查看在 es_snapshot_repository 仓库中所有的快照,可以使用:

bash 复制代码
GET /_snapshot/es_snapshot_repository /_all

11.恢复快照

bash 复制代码
POST /_snapshot/es_snapshot_repository /snapshot_1/_restore
{
  "indices": "index_1,index_2",  // 指定要恢复的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否恢复集群全局状态
}
  1. 删除快照
bash 复制代码
DELETE /_snapshot/es_snapshot_repository /snapshot_1
  1. 删除快照仓库
bash 复制代码
DELETE /_snapshot/es_snapshot_repository 

minio快照仓库长这样:

要把minio 的 bucket的权限改为public

三、定时任务自动快照

1.配置 SLM 策略

bash 复制代码
PUT _slm/policy/daily_snapshots
{
  "schedule": "0 30 1 * * ?",  // Cron 表达式,表示每天凌晨 1:30 进行快照
  "name": "<daily-snap-{now/d}>",
  "repository": "minio_backup",
  "config": {
    "indices": ["index_1", "index_2"],  // 需要备份的索引
    "ignore_unavailable": true,
    "include_global_state": false
  },
  "retention": {
    "expire_after": "30d",  // 快照保留 30 天后自动删除
    "min_count": 5,         // 保留至少 5 个快照
    "max_count": 50         // 最多保留 50 个快照
  }
}


PUT _slm/policy/daily_snapshots
{
  "schedule": "0 30 1 * * ?",  // Cron 表达式,表示每天凌晨 1:30 进行快照
  "name": "<daily-snap-{now/d}>",
  "repository": "minio_backup",
  "config": {
    "indices": ["_all"],  // 备份所有索引
    "ignore_unavailable": true,
    "include_global_state": false
  },
  "retention": {
    "expire_after": "30d",  // 快照保留 30 天后自动删除
    "min_count": 5,         // 保留至少 5 个快照
    "max_count": 50         // 最多保留 50 个快照
  }
}

daily_snapshots 为策略名称

2.查看 SLM 策略

bash 复制代码
GET _slm/policy

3.手动触发 SLM 策略

如果需要立即测试或手动触发策略,可以使用以下命令:

bash 复制代码
POST _slm/policy/daily_snapshots/_execute

daily_snapshots 为策略名称

4.删除特定的 SLM 策略

bash 复制代码
DELETE _slm/policy/daily_snapshots

daily_snapshots 为策略名称

四、新搭建 elasticsearch 集群 如何使用 minio集群数据恢复

在新搭建的 Elasticsearch 集群中,使用以下命令注册 MinIO 作为快照存储库:

bash 复制代码
PUT /_snapshot/es_snapshot_repository
{
  "type": "s3",
  "settings": {
    "bucket": "es-snap-shot",
    "endpoint": "http://192.168.43.185:9000",
    "protocol": "http",
    "region": "us-east-1",
    "compress": true
  }
}

其他步骤正常恢复即可

相关推荐
乔以亦3 分钟前
python 装饰器
linux·开发语言·python
一路向前-执着4 分钟前
linux下lvm(逻辑卷管理器)
linux·运维·5g
robot_大菜鸟4 分钟前
linux-L3_linux 查看进程(node-red)
linux·运维·服务器
是Winky啊5 分钟前
代理服务器
linux·服务器·php
MediaTea13 分钟前
Pr:Adobe SRT
linux·运维·服务器·网络·adobe
promise52414 分钟前
Linux cat命令详解使用:高效文本内容管理
linux·运维·服务器·后端·bash
佚名涙26 分钟前
5分钟熟练上手ES的具体使用
大数据·学习·elasticsearch·jenkins
一休哥助手1 小时前
使用 Python 中的 Schedule 模块进行任务调度
linux·开发语言·python
大鹅i3 小时前
Grafana面板-linux主机详情(使用标签过滤主机监控)
linux·运维·grafana
清风 0015 小时前
在 Linux 上以 All-in-One 模式安装 KubeSphere
linux·运维·服务器