elasticsearch快照存储到linux本地路径或分布式存储系统mioio

一、使用linux本地目录做快照存储

1.编辑 elasticsearch.yml 文件,添加以下配置:

bash 复制代码
path.repo: ["/path/to/your/backup/dir"]

2.创建一个文件系统类型的快照仓库

bash 复制代码
PUT /_snapshot/my_local_repository
{
  "type": "fs",
  "settings": {
    "location": "/path/to/your/backup/dir",
    "compress": true
  }
}


my_local_repository为仓库名称

3.创建快照

bash 复制代码
PUT /_snapshot/my_local_repository/snapshot_1
{
  "indices": "index_1,index_2",
  "ignore_unavailable": true,
  "include_global_state": false
}


PUT /_snapshot/my_local_repository/snapshot_1
{
  "indices": "*",
  "ignore_unavailable": true,
  "include_global_state": false
}

snapshot_1为快照名称

4.恢复快照

bash 复制代码
POST /_snapshot/my_local_repository/snapshot_1/_restore
{
  "indices": "index_1"
}

二、使用minio本地目录做快照存储

1.安装 repository-s3 插件

bash 复制代码
./elasticsearch-plugin install repository-s3

2.验证插件是否安装成功

bash 复制代码
./elasticsearch-plugin list

3.在 elasticsearch.yml 中配置 S3 仓库: 添加以下内容来启用 S3 仓库:

bash 复制代码
s3.client.default.endpoint: "http://192.168.43.185:9000"
s3.client.default.access_key: "minioadmin"
s3.client.default.secret_key: "minioadmin"
s3.client.default.protocol: "http"

4.将 access_key 和 secret_key 添加到 keystore

bash 复制代码
./elasticsearch-keystore add s3.client.default.access_key
./elasticsearch-keystore add s3.client.default.secret_key


s3.client.default.access_key: 登录账户
s3.client.default.secret_key:登录密码

5.验证 keystore 配置

bash 复制代码
./elasticsearch-keystore list

6.删除错误的 keystore 项

bash 复制代码
./elasticsearch-keystore remove add

7.创建存储库

bash 复制代码
PUT /_snapshot/es_snapshot_repository
{
  "type": "s3",
  "settings": {
    "bucket": "es-snap-shot",
    "endpoint": "http://192.168.43.185:9000",
    "protocol": "http",
    "region": "us-east-1",
    "compress": true
  }
}

es_snapshot_repository : 仓库名称

8.创建快照

bash 复制代码
PUT /_snapshot/es_snapshot_repository /snapshot_1
{
  "indices": "index_1,index_2",  // 指定要备份的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否包括集群全局状态
}


 PUT /_snapshot/es_snapshot_repository /snapshot2
{
  "indices": "*",  // 指定要备份的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否包括集群全局状态
}

ignore_unavailable 是一个可选参数,指定是否忽略那些在快照创建时不可用的索引。
include_global_state 指定是否包括集群的全局状态,如模板和集群设置。
  1. 查看快照状态
bash 复制代码
GET /_snapshot/es_snapshot_repository /snapshot_1/_status

10.列出所有快照

如果想查看在 es_snapshot_repository 仓库中所有的快照,可以使用:

bash 复制代码
GET /_snapshot/es_snapshot_repository /_all

11.恢复快照

bash 复制代码
POST /_snapshot/es_snapshot_repository /snapshot_1/_restore
{
  "indices": "index_1,index_2",  // 指定要恢复的索引
  "ignore_unavailable": true,    // 忽略不可用的索引
  "include_global_state": false // 是否恢复集群全局状态
}
  1. 删除快照
bash 复制代码
DELETE /_snapshot/es_snapshot_repository /snapshot_1
  1. 删除快照仓库
bash 复制代码
DELETE /_snapshot/es_snapshot_repository 

minio快照仓库长这样:

要把minio 的 bucket的权限改为public

三、定时任务自动快照

1.配置 SLM 策略

bash 复制代码
PUT _slm/policy/daily_snapshots
{
  "schedule": "0 30 1 * * ?",  // Cron 表达式,表示每天凌晨 1:30 进行快照
  "name": "<daily-snap-{now/d}>",
  "repository": "minio_backup",
  "config": {
    "indices": ["index_1", "index_2"],  // 需要备份的索引
    "ignore_unavailable": true,
    "include_global_state": false
  },
  "retention": {
    "expire_after": "30d",  // 快照保留 30 天后自动删除
    "min_count": 5,         // 保留至少 5 个快照
    "max_count": 50         // 最多保留 50 个快照
  }
}


PUT _slm/policy/daily_snapshots
{
  "schedule": "0 30 1 * * ?",  // Cron 表达式,表示每天凌晨 1:30 进行快照
  "name": "<daily-snap-{now/d}>",
  "repository": "minio_backup",
  "config": {
    "indices": ["_all"],  // 备份所有索引
    "ignore_unavailable": true,
    "include_global_state": false
  },
  "retention": {
    "expire_after": "30d",  // 快照保留 30 天后自动删除
    "min_count": 5,         // 保留至少 5 个快照
    "max_count": 50         // 最多保留 50 个快照
  }
}

daily_snapshots 为策略名称

2.查看 SLM 策略

bash 复制代码
GET _slm/policy

3.手动触发 SLM 策略

如果需要立即测试或手动触发策略,可以使用以下命令:

bash 复制代码
POST _slm/policy/daily_snapshots/_execute

daily_snapshots 为策略名称

4.删除特定的 SLM 策略

bash 复制代码
DELETE _slm/policy/daily_snapshots

daily_snapshots 为策略名称

四、新搭建 elasticsearch 集群 如何使用 minio集群数据恢复

在新搭建的 Elasticsearch 集群中,使用以下命令注册 MinIO 作为快照存储库:

bash 复制代码
PUT /_snapshot/es_snapshot_repository
{
  "type": "s3",
  "settings": {
    "bucket": "es-snap-shot",
    "endpoint": "http://192.168.43.185:9000",
    "protocol": "http",
    "region": "us-east-1",
    "compress": true
  }
}

其他步骤正常恢复即可

相关推荐
远游客07132 小时前
centos stream 8下载安装遇到的坑
linux·服务器·centos
马甲是掉不了一点的<.<2 小时前
本地电脑使用命令行上传文件至远程服务器
linux·scp·cmd·远程文件上传
jingyu飞鸟2 小时前
centos-stream9系统安装docker
linux·docker·centos
超爱吃士力架2 小时前
邀请逻辑
java·linux·后端
woshiabc1113 小时前
windows安装Elasticsearch及增删改查操作
大数据·elasticsearch·搜索引擎
cominglately5 小时前
centos单机部署seata
linux·运维·centos
魏 无羡5 小时前
linux CentOS系统上卸载docker
linux·kubernetes·centos
CircleMouse5 小时前
Centos7, 使用yum工具,出现 Could not resolve host: mirrorlist.centos.org
linux·运维·服务器·centos
木子Linux6 小时前
【Linux打怪升级记 | 问题01】安装Linux系统忘记设置时区怎么办?3个方法教你回到东八区
linux·运维·服务器·centos·云计算
mit6.8246 小时前
Ubuntu 系统下性能剖析工具: perf
linux·运维·ubuntu