Linux云计算 |【第五阶段】CLOUD-DAY9

主要内容：

Metrics资源利用率监控、存储卷管理（临时卷ConfitMap、EmptyDir、持久卷HostPath、NFS(PV/PVC)）

一、Metrics介绍

metrics是一个监控系统资源使用的插件，可以监控Node节点上的CPU、内存的使用率，或Pod对资源的占用率，通过对资源占用的了解，可以更加合理的部署容器应用；

补充：metrics从Kubernetes 1.8开始，资源使用情况的监控可以通过Metrics API的形式获取，具体的组件为Metrics Server，用来替换之前的heapster插件，所以heapster从1.11开始逐渐被放弃；

**报错说明：**没有http:heapster插件，该插件已被Metrics Server替换，需安装Metrics插件；

[root@master ~]# kubectl top node    //查看资源占用情况
Error from server (NotFound): the server could not find the requested resource (get services http:heapster:)

---

部署metrics-server服务示例：

① 开启聚合服务参数

② 签发Kubelet证书

③ 安装metrics-server插件

④ 执行所有资源文件

• apiservice.yaml //注册集群API的资源文件

• deployment.yaml //主进程metrics的资源文件

• metrisc-server.tar.gz //metrisc-server插件镜像压缩包

• pdb.yaml //中断控制器

• rbac.yaml //授权控制器

• service.yaml //后端是metrics主进程的服务

1）开启聚合服务

Metrics-server是扩展的Apiserver，依赖于kube-aggregator，因此需要在Apiserver中开启聚合API相关参数（-- enable-aggregator-routing=true）

修改Api-server启动参数流程：

① 配置文件：/etc/kubernetes/manifests/kube-apiserver.yaml

• • 配置spec.containers.command添加：- -- enable-aggregator-routing=true

② 重启服务：systemctl restart kubelet

③ 验证配置：kubectl -n kube-system get pod 容器名 -o yaml | grep enable-aggregator-routing

步骤1：开启apiserver聚合服务参数

① 备份配置文件（强烈建议备份）

[root@master ~]# cd /etc/kubernetes/manifests/
[root@master manifests]# cp kube-apiserver.yaml kube-apiserver.yaml.bak   //备份文件
[root@master manifests]# mv kube-apiserver.yaml.bak /root/

注意：K8S默认会载入所有配置文件，该目录下的两个文件即使修改差一个参数不同，也会一并载入可能导致覆盖，所以必须将备份文件放在其它目录，避免干扰；

② 修改配置文件，并重启验证服务

在spec.containers.command 最下面手动添加如下一行

[root@master manifests]# vim kube-apiserver.yaml
    - --enable-aggregator-routing=true
[root@master manifests]# systemctl restart kubelet    //重启服务
[root@master manifests]# kubectl -n kube-system get pod kube-apiserver-master -o yaml | grep enable-aggregator-routing     //验证服务
- --enable-aggregator-routing=true

常见报错：配置文件修改错误，会导致Apiserver无法使用，需备份文件还原

修改配置示例：

2）kubelet证书

metrics插件需使用kubelet证书，需手动为kubelet签发证书；

证书的申请与签发流程：

① 配置文件：/var/lib/kubelet/config.yaml

• • 配置：serverTLSBootstrap: true //文件的最后一行添加

② 重启服务：systemctl restart kubelet

③ 签发证书：

查看证书

• • 格式：kubectl get certificatesigningrequests

签发证书

• • 格式：kubectl certificate approve 证书名称

删除证书（多余证书）

• • 格式：kubectl delete certificatesigningrequests 证书名称

---

步骤2：证书的申请与签发（master，node-0001，node-0002，node-0003操作）

补充：证书在签发过程中是有时效性的，当证书申请后一直未签发，kubelet会认为证书失效或丢弃，重新创建带Pending的证书，只要将该些证书签发即可，申请多余证书可删除；

① 修改配置文件，并重启服务（以master为例）

[root@master ~]# vim /var/lib/kubelet/config.yaml
serverTLSBootstrap: true     //在文件的最后一行添加（申请证书参数开启）
[root@master ~]# systemctl restart kubelet    //重启服务

② 签发证书（必须在 master 上执行）

[root@master ~]# kubectl get certificatesigningrequests    //查看证书
NAME        AGE   REQUESTOR            CONDITION
csr-5zbkt   13m     system:node:node-0001   Pending
csr-7g67s   13m     system:node:node-0002   Pending
csr-bqzjk   14m     system:node:master      Pending
csr-cw9dz   12m     system:node:node-0003   Pending

在Master上，为每个节点的证书进行签发

[root@master ~]# kubectl certificate approve csr-bqzjk
certificatesigningrequest.certificates.k8s.io/csr-bqzjk approved
[root@master ~]# kubectl certificate approve csr-5zbkt
certificatesigningrequest.certificates.k8s.io/csr-5zbkt approved
[root@master ~]# kubectl certificate approve csr-7g67s
certificatesigningrequest.certificates.k8s.io/csr-7g67s approved
[root@master ~]# kubectl certificate approve csr-cw9dz
certificatesigningrequest.certificates.k8s.io/csr-cw9dz approved

[root@master ~]# kubectl get certificatesigningrequests   //查看证书
NAME        AGE   REQUESTOR               CONDITION
csr-5zbkt   11m   system:node:node-0001   Approved,Issued
csr-7g67s   10m   system:node:node-0002   Approved,Issued
csr-bqzjk   11m   system:node:master      Approved,Issued
csr-cw9dz   10m   system:node:node-0003   Approved,Issued

3）安装Metrics-server插件

方法1：官网https://github.com/kubernetes-sigs/metrics-server

方法2：下载镜像和资源文件，并导入私有仓库

• • 格式：kubectl top node //查询节点的资源占用率（CPU、内存的占用情况）

---

步骤3：安装mertics插件

拷贝云盘的kubernetes/v1.17.6/metrics 目录到 master 上

[root@ecs-proxy v1.17.6]# rsync -av metrics/ 192.168.1.21:/root
[root@master ~]# tree metrics/
metrics/
├── apiservice.yaml         //注册集群API的资源文件
├── deployment.yaml         //主进程metrics的资源文件
├── metrisc-server.tar.gz   //metrisc-server插件镜像压缩包
├── pdb.yaml                //中断控制器
├── rbac.yaml               //授权控制器
└── service.yaml            //后端是metrics主进程的服务
0 directories, 6 files

① 导入mertics插件镜像，并上传私有镜像仓库

[root@master ~]# cd metrics/
[root@master metrics]# docker load -i metrisc-server.tar.gz
[root@master metrics]# docker tag gcr.io/k8s-staging-metrics-server/metrics-server:master 192.168.1.100:5000/metrics-server:master
[root@master metrics]# docker push 192.168.1.100:5000/metrics-server:master

② 修改deployment资源文件

[root@master metrics]# vim deployment.yaml
29： image: 192.168.1.100:5000/metrics-server:master    //修改镜像地址

③ 执行资源文件（按照顺序依次创建）

[root@master metrics]# kubectl apply -f rbac.yaml    //授权控制器
[root@master metrics]# kubectl apply -f pdb.yaml    //中断控制器
[root@master metrics]# kubectl apply -f deployment.yaml   //主进程metrics
[root@master metrics]# kubectl apply -f service.yaml   //后端是metrics主进程的服务
[root@master metrics]# kubectl apply -f apiservice.yaml   //注册集群API

④ 查询验证

Metrics插件默认将pod、service、apiservices放在kube-system系统命名空间

[root@master metrics]# kubectl -n kube-system get pod    //查看Pod资源
metrics-server-67fbd5bb7b-qbgkx   1/1     Running   0          2m2s

[root@master metrics]# kubectl -n kube-system get service  //查看service资源
NAME             TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)                  AGE
kube-dns         ClusterIP   10.254.0.10     <none>        53/UDP,53/TCP,9153/TCP   4d22h
metrics-server   ClusterIP   10.254.60.149   <none>        443/TCP                  2m28s

[root@master metrics]# kubectl -n kube-system get apiservices   //查看apiservices资源

注意：当kube-system/metrics-server的状态为True，部署Metrics插件才完成；

⑤ 验证：查询节点的资源占用率（CPU、内存的占用情况）

[root@master metrics]# kubectl top node
NAME        CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%
master      79m          3%     2322Mi          62%
node-0001   23m          1%     938Mi           25%
node-0002   20m          1%     943Mi           25%
node-0003   20m          1%     1150Mi          31%

扩展：CPU毫核：CPU的计量单位叫毫核。集群中的每一个节点可以通过操作系统确认本节点的CPU内核数量，将这个数量乘以1000，得到的就是节点总的CPU总数量。

⑥ 验证：监控POD容器资源利用率

[root@master ~]# kubectl apply -f myapache.yaml
deployment.apps/myapache configured
[root@master ~]# watch -n 1 'kubectl top pod'    //使用watch实时监控（每秒）

打开另个终端测试nodePort访问

[root@master ~]# kubectl apply -f mynodeport.yaml
service/mynodeport created
[root@master ~]# kubectl get service

[root@master ~]# curl http://192.168.1.31:30625
this is apache

循环访问测试

[root@master ~]# while true; do curl 192.168.1.31:30625; done

查看CPU监控状态

常见问题：Metrics-server服务启动后，需要等待大约 30 秒的时间用来监测资源利用率，正常现象

[root@master ~]# kubectl top pod
error: metrics not available yet

二、存储卷管理

1、ConfigMap（临时卷）

ConfigMap是在Pod中映射（文件/目录）的一种方式，允许将配置文件与镜像文件分离，以使容器化的应用程序具有可移植性；

场景：在日常工作中经常要修改各种配置文件的参数，数据库的地址、用户名密码等，这些操作在容器内非常麻烦，POD在重启或者迁移时候又会恢复到初始的状态，使用ConfigMa[就可以解决这样的问题；

常见ConfigMap案例：web集群(nginx+php)，nginx需修改配置文件才能支持PHP，例如：

定义ConfigMap

ConfigMap可以映射单一文件，也可以映射一个目录

创建ConfigMap卷

• • 格式：kubectl create configmap 名称 --from-file=文件路径

查看ConfigMap卷

• • 格式：kubectl get configmaps

补充：创建完ConfigMap之后，要在资源文件中引用ConfigMap才能生效

资源文件引用ConfigMap模板：

---

示例：创建ConfigMap存储卷

步骤1：修改Nginx配置文件，并创建ConfigMap

① 清除所有POD（由于apache与nginx都使用 80 端口，需把实验容器全部删除）

[root@master ~]# kubectl delete -f myapache.yaml
[root@master ~]# kubectl delete -f mypod.yaml
[root@master ~]# kubectl get pod
No resources found in default namespace.

② 拷贝myos:nginx容器的Nginx配置文件，并完成修改

[root@master ~]# mkdir /var/webconf
[root@master ~]# docker run -itd --name mynginx 192.168.1.100:5000/myos:nginx     //启动容器
[root@master ~]# docker ps
CONTAINER ID        IMAGE                           COMMAND                  CREATED             STATUS              PORTS               NAMES
b24b9f2e5f34        192.168.1.100:5000/myos:nginx   "/usr/local/nginx/sb..."   28 seconds ago      Up 27 seconds       80/tcp              mynginx
[root@master ~]# docker cp mynginx:/usr/local/nginx/conf/nginx.conf /var/webconf/   //拷贝容器目录
[root@master ~]# docker rm -f mynginx
mynginx
[root@master ~]# ls -l /var/webconf/nginx.conf
-rw-r--r-- 1 root root 2656 Jul 25  2020 /var/webconf/nginx.conf
[root@master ~]# vim /var/webconf/nginx.conf     //修改配置文件
...
        location ~ \.php$ {
            root           html;
            fastcgi_pass   127.0.0.1:9000;
            fastcgi_index  index.php;
            include        fastcgi.conf;
        }
...

③ 创建ConfigMap卷

• 格式：kubectl create configmap 名称 --from-file=文件路径

[root@master ~]# kubectl create configmap nginx-conf --from-file=/var/webconf/nginx.conf
configmap/nginx-conf created
[root@master ~]# kubectl get configmaps    //查看ConfigMap卷
NAME         DATA   AGE
nginx-conf   1      6s

步骤2：在webnginx.yaml资源文件中，引用Configmap存储卷定义

[root@master ~]# vim webnginx.yaml
---
kind: Deployment       //定义资源的类型
apiVersion: apps/v1
metadata:
  name: webnginx       //资源类型的名称
spec:
  selector:            //标签选择器
    matchLabels:
      myapp: nginx
  replicas: 1         //副本数为1
  template:           //POD资源模板
    metadata:
      labels:
        myapp: nginx
    spec:             //POD资源的详细定义
      volumes:                //卷的定义，映射存储卷
      - name: nginx-php       //卷的名称（标记1）
        configMap:            //定义ConfigMap卷（加载的卷可以写多个）
          name: nginx-conf    //加载的configmap，必须与create configmap命令创建的卷名称相同
      containers:     //容器的定义
      - name: nginx
        image: 192.168.1.100:5000/myos:nginx
        volumeMounts:           //挂载存储卷
        - name: nginx-php       //指定卷的名称，必须与（标记1）名称相同
          subPath: nginx.conf   //指定映射单一文件路径（映射哪一个存储卷）
          mountPath: /usr/local/nginx/conf/nginx.conf    //存储卷加载在容器的路径
        ports:
        - protocol: TCP
          containerPort: 80
      restartPolicy: Always

[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod     //查询POD资源
NAME                        READY   STATUS    RESTARTS   AGE
webnginx-6fdf585d7d-lptqb   1/1     Running   0          7s

验证服务，进入容器查看配置文件是否改变

[root@master ~]# kubectl exec -it webnginx-6fdf585d7d-lptqb -- /bin/bash
[root@webnginx-6fdf585d7d-lptqb html]# cat /usr/local/nginx/conf/nginx.conf

[root@webnginx-6fdf585d7d-lptqb html]# ss -ltun

[root@webnginx-6fdf585d7d-lptqb html]# exit
Exit
[root@master ~]# kubectl delete -f webnginx.yaml
deployment.apps "webnginx" deleted

**补充：**以上步骤只完成了ConfigMap卷的创建、存储卷的映射，但由于PHP文件需要后端PHP程序解析，还需添加PHP容器；其次两个容器通信需要共享网卡，最简单的方法即将两个容器写在同一个资源文件中；

步骤3：在webnginx.yaml资源文件的基础上，添加 php 容器

① 在资源文件template.spec.containers添加PHP容器

[root@master ~]# vim webnginx.yaml
 
---
kind: Deployment
apiVersion: apps/v1
metadata:
  name: webnginx
spec:
  selector:
    matchLabels:
      myapp: nginx
  replicas: 1
  template:
    metadata:
      labels:
        myapp: nginx
    spec:
      volumes:
      - name: nginx-php
        configMap:
          name: nginx-conf
      containers:
      - name: nginx
        image: 192.168.1.100:5000/myos:nginx
        volumeMounts:
        - name: nginx-php
          subPath: nginx.conf
          mountPath: /usr/local/nginx/conf/nginx.conf
        ports:
        - protocol: TCP
          containerPort: 80
      - name: php-backend                       //添加PHP容器
        image: 192.168.1.100:5000/myos:php-fpm  //指定私有仓库PHP的镜像
      restartPolicy: Always

② 执行资源文件，创建资源对象

[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod -o wide

③ 进入容器验证服务（1个POD有2个容器，需使用-c 指定容器）

[root@master ~]# kubectl exec -it webnginx-6c9f6fd675-hkqth -c nginx -- /bin/bash  
[root@webnginx-6c9f6fd675-hkqth html]# ss -ltun

[root@webnginx-6c9f6fd675-hkqth html]# exit
exit
[root@master ~]# curl http://10.244.2.22/info.php    //访问POD容器IP
<pre>
Array
(
    [REMOTE_ADDR] => 10.244.0.0
    [REQUEST_METHOD] => GET
    [HTTP_USER_AGENT] => curl/7.29.0
    [REQUEST_URI] => /info.php
)
php_host:       webnginx-6c9f6fd675-hkqth
1229

**补充：**在同一个POD中，两个容器共享了主机名、信号向量、网卡、进程等，但没有文件系统，需要通过持久卷的加持，才能完成nginx+php方案

2、临时卷

用途：有些应用程序需要额外的存储，但并不关心数据在重启后仍然可用，即数据是否被持久地保存；例如：缓存服务经常受限于内存大小，将不常用的数据转移到比内存慢、但对总体性能的影响很小的存储中；

常见的临时卷：emptyDir、configMap、downwardAPI、secret

2.1 emptyDir卷

emptyDir是最基础的Volume类型(存储卷)，用于存储临时数据的简单空目录，当Pod设置了emptyDir类型存储卷，Pod被分配到Node上时候会创建emptyDir；只要运行在Node上，emptyDir都会存在（容器挂掉不会导致emptyDir丢失数据），但是如果Pod从Node上被删除（Pod被删除，或者Pod产生迁移，emptyDir也会被删除，并且永久丢失）

emptyDir可以实现同一个Pod中数据的共享；

资源文件引用emptyDir模板：

---

示例：创建emptydir存储卷

① 编写资源文件，引用emptydir定义

[root@master ~]# vim webcache.yaml
---
kind: Deployment           //定义资源的类型
apiVersion: apps/v1
metadata:
  name: webcache           //定义资源的名称
spec:
  selector:
    matchLabels:
      myapp: cache
  replicas: 1
  template:
    metadata:
      labels:
        myapp: cache
    spec:
      volumes:                //卷的定义，映射存储卷
      - name: empty-data      //卷的名称（标记1）
        emptyDir: {}          //定义存储临时数据空目录（卷类型）
      containers:
      - name: apache
        image: 192.168.1.100:5000/myos:httpd
        stdin: false
        tty: false
        volumeMounts:              //挂载存储卷
        - name: empty-data         //指定卷的名称，必须与（标记1）名称相同
          mountPath: /var/cache    //存储卷加载在容器的路径
        ports:
        - protocol: TCP
          containerPort: 80
      restartPolicy: Always

② 执行资源文件

[root@master ~]# kubectl apply -f webcache.yaml
deployment.apps/webcache created
[root@master ~]# kubectl get pod     //查看POD资源
NAME                        READY   STATUS    RESTARTS   AGE
webcache-6444646d9d-4nwkc   1/1     Running   0          11s

③ 进入容器，验证测试

[root@master ~]# kubectl exec -it webcache-6444646d9d-4nwkc -- /bin/bash
[root@webcache-6444646d9d-4nwkc html]# df -h

3、持久卷

用途：容器磁盘上的文件的生命周期是短暂的（容器本质是进程），这就使得在容器中运行重要应用时会出现一些问题。首先，当容器崩溃时，Kubelet会重启容器，但是容器中的文件将丢失，容器以干净的状态（镜像最初的状态）重新启动，其次，在Pod中同时运行多个容器时，这些容器之间通常需要共享文件，而Kubernetes中的Volume抽象就很好的解决这些问题；

目前K8S支持的Volume存储卷类型：

---

3.1 HostPath卷

HostPath类型则是映射node文件系统中的文件或者目录到Pod里（类似Dokcer -v），在使用hostPath类型的存储卷时，也可以设置type字段，支持的类型有文件、目录、Socket、CharDevice和BlockDevice。

注意：配置相同Pod，可能在不同的Node上表现不同，因为不同节点上映射的文件内容不同；

hostPath里面的数据不会随着Pod的结束而消失；

资源文件引用hostPath模板

---

示例：创建hostpath存储卷

① 映射本地目录/var/weblog到容器中

[root@master ~]# vim webcache.yaml
---
kind: Deployment
apiVersion: apps/v1
metadata:
  name: webcache
spec:
  selector:
    matchLabels:
      myapp: cache
  replicas: 1
  template:
    metadata:
      labels:
        myapp: cache
    spec:
      volumes:                       //卷的定义，映射存储卷
      - name: empty-data
        emptyDir: {}
      - name: log-data               //卷的名称（标记1）
        hostPath:                    //定义HostPath卷
          path: /var/weblog          //Node节点加载路径
          type: DirectoryOrCreate    //当目录不存在，则创建
      containers:
      - name: apache
        image: 192.168.1.100:5000/myos:httpd
        stdin: false
        tty: false
        volumeMounts:               //挂载存储卷
        - name: empty-data
          mountPath: /var/cache
        - name: log-data            //指定卷的名称，必须与（标记1）名称相同
          mountPath: /var/log/httpd   //存储卷映射在容器的路径
        ports:
        - protocol: TCP
          containerPort: 80
      restartPolicy: Always

② 执行资源文件

[root@master ~]# kubectl apply -f webcache.yaml
deployment.apps/webcache configured
[root@master ~]# kubectl get pod -o wide

[root@master ~]# curl http://10.244.1.17    //测试访问容器IP地址
this is apache

③ 登录Node节点上，查看挂载的目录是否有文件

[root@master ~]# ssh 192.168.1.31
[root@node-0001 ~]# ls -l /var/weblog/
total 8
-rw-r--r-- 1 root root  86 Jul  6 16:42 access_log
-rw-r--r-- 1 root root 489 Jul  6 16:41 error_log
[root@node-0001 ~]# cat /var/weblog/access_log
10.244.0.0 - - [06/Jul/2021:08:42:12 +0000] "GET / HTTP/1.1" 200 15 "-" "curl/7.29.0"

④ 删除POD资源，查看挂载的目录中，文件是否保留

[root@master ~]# kubectl delete -f webcache.yaml
deployment.apps "webcache" deleted
[root@master ~]# ssh 192.168.1.31
[root@node-0001 ~]# ls -l /var/weblog/
total 8
-rw-r--r-- 1 root root  86 Jul  6 16:42 access_log
-rw-r--r-- 1 root root 489 Jul  6 16:41 error_log
[root@node-0001 ~]# cat /var/weblog/access_log
10.244.0.0 - - [06/Jul/2021:08:42:12 +0000] "GET / HTTP/1.1" 200 15 "-" "curl/7.29.0"

3.2 NFS共享卷

在生产环境中经常需要多个Pod或多个APP应用中共享数据，而这些应用又在不同的机器的不同Pod里面，网络文件系统经常用来解决这一问题；Kubernetes中通过简单地配置就可以挂载NFS到Pod中，而NFS中的数据是可以永久保存的，同时NFS支持并发写操作，当然cephfs、glusterfs等都能很好的解决这个问题；

PV、PVC配置

① PersistentVolume（持久卷，PV）

PV是资源的提供者，根据集群的基础设施变化而变化，由K8S集群管理员配置；

• • 格式：kubectl get pv

② Persistent VolumeClaim（持久卷声明，PVC）

PVC是资源的使用者，根据业务服务的需求变化来配置；

• • 格式：kubectl get pvc

（PC/PVC的引入，是K8S集群具备了存储的逻辑抽象能力）

配置PV（NFS资源）模板：

配置PVC（使用PV资源）模板：

引用配置文件模板：

---

示例：创建NFS持久卷

步骤1：搭建NFS服务器（registry操作）

[root@registry ~]# yum install -y nfs-utils
[root@registry ~]# mkdir -m 777 /var/webroot     //创建共享目录
[root@registry ~]# ls -ld /var/webroot/
drwxrwxrwx 2 root root 4096 Jul  6 16:58 /var/webroot/
[root@registry ~]# vim /etc/exports
/var/webroot *(rw)
[root@registry ~]# systemctl enable --now nfs

所有节点都需要nfs软件包（master，node-0001，node-0002，node-0003）

[root@ecs-proxy node-install]# ansible nodes --list-hosts
  hosts (3):
    192.168.1.31
    192.168.1.33
    192.168.1.32
[root@ecs-proxy ~]# cd node-install/
[root@ecs-proxy node-install]# ansible nodes -m yum -a 'name="nfs-utils" state=present'

在任意其他节点测试NFS

[root@master ~]# yum install -y nfs-utils
[root@master ~]# showmount -e 192.168.1.100
Export list for 192.168.1.100:
/var/webroot *

步骤2：创建 PV持久卷

官网：持久卷 | Kubernetes

[root@master ~]# vim mypv.yaml
---
kind: PersistentVolume      //定义PV持久卷类型
apiVersion: v1
metadata:
  name: pv-nfs              //类型的名称
spec:                       //PV类型的详细定义
  volumeMode: Filesystem    //Volume模型（支持Filesystem文件系统、Block块设备）
  capacity:                //定义卷的容量
    storage: 30Gi         //提供卷的大小
  accessModes:            //支持的模式（RWO、ROX，RWX，查看官网查询）
  - ReadWriteOnce         //卷可以被一个节点以读写方式挂载；
  - ReadOnlyMany          //卷可以被多个节点以只读方式挂载；
  - ReadWriteMany         //卷可以被多个节点以读写方式挂载
  persistentVolumeReclaimPolicy: Retain   //卷资源回收方式Retain自动删除，Delete手动删除
  nfs:            //指定NFS共享
    server: 192.168.1.100    //指定NFS服务器地址
    path: /var/webroot       //指定共享目录

[root@master ~]# kubectl apply -f mypv.yaml
persistentvolume/pv-nfs created
[root@master ~]# kubectl get pv
NAME     CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM   STORAGECLASS   REASON   AGE
pv-nfs   30Gi       RWO,ROX,RWX    Retain           Available                                   8s

步骤3：创建PVC持久卷声明

[root@master ~]# vim mypvc.yaml
---
kind: PersistentVolumeClaim   //定义PVC持久卷声明类型
apiVersion: v1
metadata:
  name: pvc-nfs             //类型的名称
spec:                       //PVC类型的详细定义
  volumeMode: Filesystem    //需要Volume模型（Filesystem文件系统、Block块设备）
  accessModes:              //需要支持的模式
  - ReadWriteMany          //卷可以被多个节点以读写方式挂载
  resources:               //计算所需的资源
    requests:              //描述所需的最小计算资源量
      storage: 25Gi        //需要提供卷的空间

[root@master ~]# kubectl apply -f mypvc.yaml
persistentvolumeclaim/pvc-nfs created

查看PV和PVC服务的状态

[root@master ~]# kubectl get pv

[root@master ~]#  kubectl get pvc

补充：当PV持久卷被Bound绑定后，就不能同时被其它服务绑定；

步骤4：在webnginx.yaml资源文件中，引用持久卷

[root@master ~]# vim webnginx.yaml
---
kind: Deployment
apiVersion: apps/v1
metadata:
  name: webnginx
spec:
  selector:
    matchLabels:
      myapp: nginx
  replicas: 1
  template:
    metadata:
      labels:
        myapp: nginx
    spec:
      volumes:                       //卷的定义
      - name: nginx-php
        configMap:
          name: nginx-conf
      - name: website                //卷的名称（标签1）
        persistentVolumeClaim:       //定义PVC卷类型
          claimName: pvc-nfs         //PVC的名称
      containers:          //容器的定义
      - name: nginx
        image: 192.168.1.100:5000/myos:nginx
        volumeMounts:                //挂载存储卷
        - name: nginx-php
          subPath: nginx.conf
          mountPath: /usr/local/nginx/conf/nginx.conf
        - name: website               //指定卷的名称（标签1）
          mountPath: /usr/local/nginx/html   //存储卷映射在容器的路径
        ports:
        - protocol: TCP
          containerPort: 80
      - name: php-backend   //PHP容器定义
        image: 192.168.1.100:5000/myos:php-fpm
        volumeMounts:                 //挂载存储卷
        - name: website               //指定卷的名称（标签1）
          mountPath: /usr/local/nginx/html   //存储卷映射在容器的路径
      restartPolicy: Always

[root@master ~]# kubectl delete -f webnginx.yaml
deployment.apps "webnginx" deleted
[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod -o wide

拷贝网页文件到NFS服务器上，然后在容器端访问测试

[root@ecs-proxy ~]# scp kubernetes/docker-images/info.* 192.168.1.100:/var/webroot/
[root@master ~]# kubectl exec -it webnginx-d488b9447-ddfr4 -- /bin/bash
[root@webnginx-d488b9447-ddfr4 html]# ls
info.html  info.php

[root@master ~]# curl http://10.244.2.23/info.html
<html>
  <marquee  behavior="alternate">
      <font size="12px" color=#00ff00>Hello World</font>
  </marquee>
</html>

[root@master ~]# curl http://10.244.2.23/info.php
<pre>
Array
(
    [REMOTE_ADDR] => 10.244.0.0
    [REQUEST_METHOD] => GET
    [HTTP_USER_AGENT] => curl/7.29.0
    [REQUEST_URI] => /info.php
)
php_host:       webnginx-d488b9447-ddfr4
1229

综合案例：

完整Nginx+php部署案例

• ① 集群能够解析静态html页面和动态PHP页面（ConfigMap）
• ② 访问日志，存放到本地Node的/var/weblog中（HostPath）
• ③ 网页内容，存储到NFS服务器（PC、PVC）
• ④ 集群至少三节点，发布到互联网（Service\Ingress\nodePort\ELB+VIP）

实验架构图：

[root@master ~]# cat webcluster.yaml
---
kind: PersistentVolume
apiVersion: v1
metadata:
  name: pv-nfs
spec:
  volumeMode: Filesystem
  capacity:
    storage: 30Gi
  accessModes:
  - ReadWriteOnce
  - ReadOnlyMany
  - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain
  nfs:
    server: 192.168.1.100
    path: /var/webroot
 
---
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: pvc-nfs
spec:
  volumeMode: Filesystem
  accessModes:
  - ReadWriteMany
  resources:
    requests:
      storage: 25Gi
 
---
kind: ConfigMap
apiVersion: v1
metadata:
  name: nginx-conf
data:
  nginx.conf: |2
 
    #user  nobody;
    worker_processes  1;
 
    #error_log  logs/error.log;
    #error_log  logs/error.log  notice;
    #error_log  logs/error.log  info;
 
    #pid        logs/nginx.pid;
 
 
    events {
        worker_connections  1024;
    }
 
 
    http {
        include       mime.types;
        default_type  application/octet-stream;
 
        #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
        #                  '$status $body_bytes_sent "$http_referer" '
        #                  '"$http_user_agent" "$http_x_forwarded_for"';
 
        #access_log  logs/access.log  main;
 
        sendfile        on;
        #tcp_nopush     on;
 
        #keepalive_timeout  0;
        keepalive_timeout  65;
 
        #gzip  on;
 
        server {
            listen       80;
            server_name  localhost;
 
            #charset koi8-r;
 
            #access_log  logs/host.access.log  main;
 
            location / {
                root   html;
                index  index.html index.htm;
            }
 
            #error_page  404              /404.html;
 
            # redirect server error pages to the static page /50x.html
            #
            error_page   500 502 503 504  /50x.html;
            location = /50x.html {
                root   html;
            }
 
            # proxy the PHP scripts to Apache listening on 127.0.0.1:80
            #
            #location ~ \.php$ {
            #    proxy_pass   http://127.0.0.1;
            #}
 
            # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
            #
            location ~ \.php$ {
                root           html;
                fastcgi_pass   127.0.0.1:9000;
                fastcgi_index  index.php;
                include        fastcgi.conf;
            }
 
            # deny access to .htaccess files, if Apache's document root
            # concurs with nginx's one
            #
            #location ~ /\.ht {
            #    deny  all;
            #}
        }
 
 
        # another virtual host using mix of IP-, name-, and port-based configuration
        #
        #server {
        #    listen       8000;
        #    listen       somename:8080;
        #    server_name  somename  alias  another.alias;
 
        #    location / {
        #        root   html;
        #        index  index.html index.htm;
        #    }
        #}
 
 
        # HTTPS server
        #
        #server {
        #    listen       443 ssl;
        #    server_name  localhost;
 
        #    ssl_certificate      cert.pem;
        #    ssl_certificate_key  cert.key;
 
        #    ssl_session_cache    shared:SSL:1m;
        #    ssl_session_timeout  5m;
 
        #    ssl_ciphers  HIGH:!aNULL:!MD5;
        #    ssl_prefer_server_ciphers  on;
 
        #    location / {
        #        root   html;
        #        index  index.html index.htm;
        #    }
        #}
 
    }
 
---
kind: Deployment
apiVersion: apps/v1
metadata:
  name: webnginx
spec:
  selector:
    matchLabels:
      myapp: nginx
  replicas: 3
  template:
    metadata:
      labels:
        myapp: nginx
    spec:
      volumes:
      - name: nginx-php
        configMap:
          name: nginx-conf
      - name: log-data
        hostPath:
          path: /var/log/weblog
          type: DirectoryOrCreate
      - name: website
        persistentVolumeClaim:
          claimName: pvc-nfs
      containers:
      - name: nginx
        image: 192.168.1.100:5000/myos:nginx
        volumeMounts:
        - name: nginx-php
          subPath: nginx.conf
          mountPath: /usr/local/nginx/conf/nginx.conf
        - name: log-data
          mountPath: /usr/local/nginx/logs
        - name: website
          mountPath: /usr/local/nginx/html
        ports:
        - protocol: TCP
          containerPort: 80
      - name: php-backend
        image: 192.168.1.100:5000/myos:php-fpm
        volumeMounts:
        - name: website
          mountPath: /usr/local/nginx/html
      restartPolicy: Always
 
---
kind: Service
apiVersion: v1
metadata:
  name: webcluster
spec:
  ports:
  - protocol: TCP
    port: 80
    targetPort: 80
  selector:
    myapp: nginx
  type: ClusterIP
 
---
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: myweb
  annotations:
    kubernetes.io/ingress.class: "nginx"
spec:
  backend:
    serviceName: webcluster
    servicePort: 80
 
[root@master ~]# kubectl apply -f webcluster.yaml
persistentvolume/pv-nfs created
persistentvolumeclaim/pvc-nfs created
configmap/nginx-conf created
deployment.apps/webnginx created
service/webcluster created
ingress.extensions/myweb created
[root@master ~]# kubectl get pod
NAME                       READY   STATUS    RESTARTS   AGE
webnginx-647877b59-hdb64   2/2     Running   0          11s
webnginx-647877b59-ljb6g   2/2     Running   0          11s
webnginx-647877b59-rqmdr   2/2     Running   0          11s
[root@master ~]# kubectl get ingresses
NAME    HOSTS   ADDRESS        PORTS   AGE
myweb   *       192.168.1.31   80      17s

给 node-0001 绑定弹性公网IP，或使用 ELB 发布到互联网即可验证

小结：

本篇章节为**【第五阶段】CLOUD-DAY9** 的学习笔记，这篇笔记可以初步了解到 Metrics资源利用率监控、存储卷管理（临时卷ConfitMap、EmptyDir、持久卷HostPath、NFS(PV/PVC)）。

---

Tip：毕竟两个人的智慧大于一个人的智慧，如果你不理解本章节的内容或需要相关笔记、视频，可私信小安，请不要害羞和回避，可以向他人请教，花点时间直到你真正的理解。