ceph pg inconsistent修复(unexpected clone)

问题概述:

ceph -s 显示pg 10.17 inconsistent

且命令ceph pg repair 10.17无法修复,/var/log/ceph/cep-osd.3.log报错内容如下:

pg 10.17 osd [3,4] 权威副本osd:3

repair 10.17 10:e889b16a:::rbd_data.88033092ad95.0000000000000012:b : is an unexpected clone

修复步骤:

0.备份

rados -p ceph-kvm-pool get rbd_data.88033092ad95.0000000000000012 /tmp/rbd_data.88033092ad95.0000000000000012

1.禁止集群均衡

ceph osd set noout

ceph osd set noscrub

ceph osd set nodeep-scrub

2.禁止recover

ceph osd set nobackfill

ceph osd set norebalance

ceph osd set norecover

3.停止osd

systemctl stop ceph-osd@3

4.列出快照

ceph-objectstore-tool --pgid 10.17 \

--data-path /var/lib/ceph/osd/ceph-3/ \

--op list | grep rbd_data.88033092ad95.0000000000000012

5.删除有问题的快照

日志里:rbd_data.88033092ad95.0000000000000012:b : is an unexpected clone

b转为十进制为11,因此需要删除的为snapid为11的快照

ceph-objectstore-tool --pgid 10.17 \

--data-path /var/lib/ceph/osd/ceph-3/ \

'["10.17",{"oid":"rbd_data.88033092ad95.0000000000000012","key":"","snapid":11,"hash":1452118295,"max":0,"pool":10,"namespace":"","max":0}]' \

remove

6.启动osd

systemctl start ceph-osd@3

7.清除标记位

ceph osd unset norecover

ceph osd unset norebalance

ceph osd unset nobackfill

重复处理完全部osd(步骤2~7)

8.deep-scrub

ceph pg deep-scrub 10.17

9.处理完全部pg inconsistent后,清除其余标记位

ceph osd unset noscrub

ceph osd unset nodeep-scrub

ceph osd unset noout

其余指令:

列出不一致的pg:

ceph-objectstore-tool --data-path /var/lib/ceph/osd/ceph-3/ --type bluestore --op list-pgs

列出不一致的object:

ceph-objectstore-tool --data-path /var/lib/ceph/osd/ceph-3/ --type bluestore --pgid 10.17 --op list

相关推荐
天幕繁星11 小时前
docker desktop es windows解决vm.max_map_count [65530] is too low 问题
windows·elasticsearch·docker·docker desktop
百锦再12 小时前
详解基于C#开发Windows API的SendMessage方法的鼠标键盘消息发送
windows·c#·计算机外设
IT-民工2111014 小时前
Ansible剧本检测Windows防火墙状态
linux·运维·windows·自动化·ansible
菜鸟江多多16 小时前
【windows 下使用 tree】
windows
星晨羽17 小时前
esayExcel根据模板导出包含图片
java·开发语言·windows
石兴稳17 小时前
iSCSI 和SCSI的概述
ceph
开发者每周简报19 小时前
当微软windows的记事本被AI加持
人工智能·windows·microsoft
命里有定数19 小时前
windows工具 -- 使用rustdesk和云服务器自建远程桌面服务, 手机, PC, Mac, Linux远程桌面 (简洁明了)
linux·运维·服务器·windows·ubuntu·远程工作
骑鱼过海的猫12319 小时前
【java】java通过s3访问ceph报错
java·ceph·iphone
石兴稳19 小时前
Ceph 中PG与PGP的概述
ceph