Harbor清理垃圾时一直提示10010 object is not found导致清理失败

原文链接lucumt.info/post/devops...

记录Harbor清理镜像垃圾时遇到的错误{"errors":[{"code":"NOT_FOUND","message":"{\"code\":10010,\"message\":\"object is not found\",\"details\":\"2cc49b89751876fa18acb008\"}"}]}导致回收失败,不能正常清理,最终占用越来越多的磁盘空间的解决过程。

问题

通过监控工具发现服务器的磁盘利用率接近80%,导致部分Kubernetes节点不能正常工作,需要清理出一部分磁盘空间。进一步分析后发现Harbor整体占用了500多G的磁盘空间。

Harbor中相关项目下的多余镜像手动删除后,项目下的磁盘占用空间恢复正常。

但回到项目整体界面上去看时,其占用的总空间还是和之前的一样都为500多G。

根据之前的经验虽然镜像被删除了,但还存在大量的垃圾导致占用了巨量的存储空间,此时需要对其进行垃圾清理,在系统管理->清理任务中点击立即清理垃圾后经过几个小时后去查看结果时,类似如下,一直提示垃圾清理失败!

一开始自己以为是要清理的镜像垃圾太多导致需要的时间也更多,但自己等了两三天还是清理失败,这肯定不正常!

点击某条具体的执行记录,查看其日志,显示如下,并没有啥有价值的信息

解决

根据前述报错信息去Google查找,发现在GitHub上这个问题很普遍

基于这条回复这条回复以及这篇文章上说的是需要将registry数据库下的admin_job表的deleted字段从false修改为true,当前使用的Harbor版本为v2.10.3基于docker部署,进入名为harbor-db的容器后发现由于自己的Harbor版本相对于别人反馈的版本更新,该表并不存在!

blob表查询其总数,结果如下,虽然总数很多,但并没有提供啥有用的信息

继续查看对应的搜索结果,在这条回复中找到一条相关度很高的说明

Was this job executed 24 hours ago, the job service reaper all the execution and task exceed 24 hour and result in the not found error.

Please update the configuration and restart Harbor. use the file logger for job service and change the max_update_hours to 168

该段回复的主要意思是清理垃圾的时间太长超过了24小时,任务中心将该任务进行了强行终止与回收,进而导致非正常的查询失败错误。

而我之前也是等待了两三天也没清理成功,于是按照其说明修改$PWD/common/config/jobservice/config.yml,将对应时间从24 修改为168 ,之后重启Harbor服务。

yaml 复制代码
jobLoggers:
    - file
 ...

reaper:
   max_update_hours: 168
   max_dangling_hours: 168

基于Docker重启Harbor服务之后,我又等待了两三天,结果依旧和以前一样!

随着日常开发任务的迭代,Harbor镜像仓库占用的磁盘空间也越来越大,该问题必须解决,没办法,我只能硬着头皮继续翻看GitHub中关于这方面问题的相关检索结果。

最终在这条回复中找到Harbor开发者的如下说明

Please go to the Job Service Dashboard and select the workers and you can find the job in the worker, and there is a log link, you can check when it is running

切换到自己的Harbor对应界面后发现任务果然被挂起

选中GARBAGE_COLLECTION类型的任务,将其重新启动,然后切换到工作者(Worker)tab页下,可发现其下有任务正在执行。

点击对应的链接,可查看该任务执行者的详细信息,类似如下,从中可发现此时已经开始正常清理镜像垃圾!

Harbor界面查看相关任务执行结果,发现其状态均变为SUCCESS

点击其中某一条任务查看详细日志,结果如下,此时可发现令人讨厌的not found错误已经消失!

Harbor主界面查看最关键的磁盘空间占用,已经减少到不到200G,符合预期,问题解决!

相关推荐
斯普信专业组2 小时前
K8s企业应用之容器化迁移
云原生·容器·kubernetes
颜淡慕潇2 小时前
【K8S系列】Kubernetes 中 Service IP 分配 问题及解决方案【已解决】
后端·云原生·容器·kubernetes
YCyjs3 小时前
Kubeadm搭建k8s
容器·kubernetes
摇曳 *3 小时前
Kubernetes:(三)Kubeadm搭建K8s 1.20集群
云原生·容器·kubernetes
网络笨猪3 小时前
K8S 容器可视化管理工具-kuboard 监控管理工具搭建
云原生·容器·kubernetes
陈小肚3 小时前
k8s 1.28.2 集群部署 NFS server 和 NFS Subdir External Provisioner
云原生·容器·kubernetes
ps酷教程4 小时前
docker基础篇(尚硅谷)
运维·docker·容器
CloudJourney6 小时前
初始Docker
运维·docker·容器
pyliumy9 小时前
docker的安装配置与基本简单命令
运维·docker·容器
winkee9 小时前
Skopeo 工具介绍
docker·容器·devops