k8s使用nfs持久卷

开启持久化卷后可以实现服务开启在不同节点也能读取到和拿到服务节点的文件。

基本流程为将集群中一个节点作为服务节点安装共享储存应用的服务端选择目录和开启端口,其他节点根据端口挂载目录。然后使用kubesphere选择相应的镜像并将端口信息和挂载目录信息作为参数来开启容器。容器开启后即可使用集群文件服务。

一、环境

举例机器为两个ubuntu2020系统的节点,其中192.168.1.121作为服务端开启共享目录,192.168.1.122作为客户端挂载121上的共享目录

|---------------|-----|
| IP | 分类 |
| 192.168.1.121 | 服务端 |
| 192.168.1.122 | 客户端 |

二、关闭防火墙

两台机器都关闭一下防火墙

复制代码
sudo systemctl stop ufw

sudo systemctl disable ufw

检查一下是否关闭成功

复制代码
sudo ufw status

三、nfs

1、安装

这边使用nfs作为共享存储应用安装在两个机器上。

首先在服务节点也就是121上下载nfs服务端,执行以下命令:

复制代码
 sudo apt install nfs-kernel-server

然后在客户节点也就是122上下载nfs客户端,执行以下命令:

复制代码
sudo apt install nfs-common

注:离线环境可以自己根据系统版本准备nfs-utils的离线包,下载失败的可以换个源或者apt update一下

2、启动

服务端也就是我这边环境的121执行下列操作:

首先创建共享文件夹:(可以自己起名,后面同步更改就好了)

复制代码
mkdir /nfs

赋权:

复制代码
chmod 775 /nfs

写入配置文件:

复制代码
echo "/nfs *(rw,sync,no_subtree_check,no_root_squash)" > /etc/exports

不放心可以cat /etc/exports看一下

启动服务,设置自启动:

复制代码
systemctl start nfs
systemctl enable nfs

验证一下共享文件是否已经开启:

复制代码
showmount -e 192.168.1.121

可以看到出现/nfs *即为开启成功

四、镜像

大体步骤为将nfs镜像上传到harbor,然后使用kubesphere设置参数开启服务,让kubesphere绑定192.168.1.121上的nfs服务。

1、上传镜像到本地

镜像文件可以直接点击下载:【免费】nfsDocker镜像资源-CSDN文库

下载完解压一下

直接把文件拷贝到121上,我随便在/opt里建了个nfs的文件夹然后把镜像文件放了进去

执行load命令:

复制代码
cd /opt/nfs
docker load -i nfs-subdir-external-provisioner.v4.0.2.tar

2、上传镜像到harbor

我这边就使用harbor里安装kubesphere时候创建的kubesphereio项目来存这个镜像

把刚才的镜像改一下标签然后push一下

复制代码
docker tag registry.k8s.io/sig-storage/nfs-subdir-external-provisioner:v4.0.2 dockerhub.kubekey.local/kubesphereio/nfs:v4.0.2

docker push dockerhub.kubekey.local/kubesphereio/nfs:v4.0.2

3、开启服务

用到了helm,kk安装完kubesphere应该就有helm了所以不用额外安装了

下载一下文件:【免费】helm创建nfs负载服务包资源-CSDN文库

将nfs-subdir-external-provisioner.zip解压后放到121机器上,并在nfs-subdir-external-provisioner目录中执行命令:

复制代码
helm install nfs-subdir-external -f values.yaml . -n nfs --create-namespace --set nfs.server=192.168.1.121 --set nfs.path=/nfs --set image.repository=dockerhub.kubekey.local/kubesphereio/nfs --set image.tag=v4.0.2 --set storageClass.name=master-nfs-storage --set storageClass.reclaimPolicy=Retain 


#--set nfs.server换成你的地址
#--set nfs.path换成你开启的共享文件夹
#--set image.repository换成你的harbor上的镜像

然后看一下kubsphere上,看到应用已经被安装

五、使用验证

1、创建持久化卷

往里边随便存点东西,点击查看yaml,然后复制里面的地址

打开121,进入这个文件夹,在里面随便创建个文件夹,后面测试用

复制代码
cd /nfs/kubesphere-monitoring-system-ceshi-pvc-50811648-88d5-4ab6-a07f-7a8306c15d5f

mkdir IAmCeshi

2、创建负载

使用nginx镜像测试,正常创建负载

为了测试,这边选一下node1节点,也就是我这边的122,看一下存在121中/nfs的文件能否被开在122节点上的服务读取到

点击创建

创建成功

点进入容器终端看一下

打开终端后进入到刚才创建负载挂的文件夹,也就是刚才的/usr/share/nginx/html/usr/share/nginx/html,可以看到刚才创建的文件夹

从里面再创建一个文件夹,然后在121上看一下

验证完成可以使用

相关推荐
A小辣椒1 天前
TShark:Wireshark CLI 功能
linux
A小辣椒2 天前
TShark:基础知识
linux
AlfredZhao2 天前
OCI 明明分配了 200G 系统盘,为什么 df 只看到 30G?
linux·oci
AlfredZhao2 天前
vi 删除指定范围的行,不用再反复按 dd
linux·vi
用户9718356334662 天前
银河麒麟 KY10 申威(SW64) 安装 nginx-1.16.1-2.p01.ky10.sw_64.rpm 详细步骤
linux
猪脚踏浪3 天前
linux 拷贝文件或目录到指定的位置
linux
大树883 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
摇滚侠3 天前
Linux CentOS7 rpm 安装 MySQL 5.7
linux·运维·mysql
bush43 天前
嵌入式linux学习记录十四、术语
linux·嵌入式
载数而行5203 天前
Linux 11 动态监控指令top
linux