容器化块存储OpenEBS在K3s中实现持久化存储最大化表现

K3OS是一个Linux发行版,专为轻量级Kubernetes发行版K3s打造的轻量操作系统。它为K3s的顺利运行专门设计了一些功能。在本文中,我将介绍安装K3OS的步骤以及如何设置OpenEBS。OpenEBS是一个CNCF项目,是一款针对Kubernetes有状态工作负载的开源容器化存储解决方案。

在vSphere中设置K3OS

K3OS的内核是从Ubuntu-18.04 LTS中fork出来的,它的用户空间二进制文件来自alpine。因此在创建虚拟机时,需要选择Ubuntu Linux(64位)作为客户操作系统。

在这里插入图片描述
从Github上的release页面下载最新的K3OS iso文件(撰写文章时最新版本为v0.9.0,目前已经更新到v0.10.1),将iso文件添加到虚拟机中,然后使用实时安装选项启动它,如下所示:

选择K3OS LiveCD & Install,并启动操作系统。

在这里插入图片描述

成功启动之后,你将进入登录提示。K3OS中的默认用户是rancher,你无需密码即可登录该用户。

在这里插入图片描述

执行了实时安装之后,你需要将操作系统安装到磁盘并将机器配置为server(master)或agent(worker)。这可以通过运行命令sudo k3os install来执行。

选择选项1,即Install to disk,以将K3OS安装到磁盘。并且需要为rancher用户设置新密码,以启用与服务器的ssh通信。

在这里插入图片描述

安装到磁盘中

你需要选择server或agent以在计算机中安装相关组件。现在,我们选择server来部署K3s server组件。你可以设置token或集群密钥,当需要将K3s agent加入server时可以使用。

在这里插入图片描述

完成安装之后,屏幕如下所示:

在这里插入图片描述

K3s server已经被成功配置。如果未配置DHCP,则需要使用connmanctl分配IP地址和其他详细的网络信息,然后以rancher用户身份登录server,输入在上一步中配置的密码。通过执行以下命令,让我们找到绑定在eth0设备上的connman网络服务:

sudo connmanctl services

执行以上命令之后,将会列出如下服务:

在这里插入图片描述

验证服务后,你可以通过以下命令分配IP地址、网络掩码、网关和DNS服务。

sudo connmanctl config <ethernet service> --ipv4 manual <IP Address> <Netmask> <gateway> --nameservers <DNS Address> 

执行以上命令之后,可以通过ifconfig命令,确保网络是否已经配置正确。在完成网络设置之后,重启机器。

安装K3s agent

在K3s术语中,Kubernetes worker被称为agent。将K3OS安装到磁盘中时,你需要选择选项2,agent,以在计算机中配置K3s agent。

在这里插入图片描述

选择了Agent之后,你需要提供agent必须配置到的server的URL。K3s server的URL可以通过以下方式生成。

https://<K3s Server IP Address>:6443

键入URL之后,你需要提供集群密钥,该密钥在server安装过程已经配置完成。在输入完成以上内容之后,启动agent部署。

开始配置网络,方式与上述配置server网络相同,然后重启计算机。重启之后,请按照以下步骤检查server中的集群状态。

k3os-1374 [~]$ kubectl get nodes
NAME         STATUS   ROLES    AGE     VERSION
k3os-1374    Ready    master   10m    v1.17.2+k3s1
k3os-15360   Ready    <none>   10m    v1.17.2+k3s1 k3os-1091 Ready <none> 10m v1.17.2+k3s1 

执行以下命令,检查集群组件是否已经配置成功,并且所有pod是否已经成功运行。

k3os-1374 [~]$ kubectl get pods -n kube-system
NAME                                      READY   STATUS      RESTARTS   AGE
helm-install-traefik-nmjvj                0/1     Completed   0          3d svclb-traefik-gp9ff 2/2 Running 1 2d23h svclb-traefik-qgdlx 2/2 Running 0 2d23h local-path-provisioner-58fb86bdfd-wkdtm 1/1 Running 1 3d metrics-server-6d684c7b5-mrxsr 1/1 Running 0 3d svclb-traefik-c4v7l 2/2 Running 0 3d coredns-d798c9dd-td5tr 1/1 Running 0 3d traefik-6787cddb4b-n57jz 1/1 Running 0 3d 

安装OpenEBS

OpenEBS是一个CNCF项目,可以为Kubernetes中部署的工作负载提供持久性块存储。除了Jiva和Local PV之外,cStor也是OpenEBS提供的存储引擎之一。而根据这一issue(https://github.com/rancher/k3os/issues/151 )通过在v0.9.0中添加了对udev的支持才在K3OS中支持cStor。

k3os-1374 [~]$ kubectl apply -f openebs-operator-1.7.0.yaml 
namespace/openebs created serviceaccount/openebs-maya-operator created clusterrole.rbac.authorization.k8s.io/openebs-maya-operator created clusterrolebinding.rbac.authorization.k8s.io/openebs-maya-operator created deployment.apps/maya-apiserver created service/maya-apiserver-service created deployment.apps/openebs-provisioner created deployment.apps/openebs-snapshot-operator created configmap/openebs-ndm-config created daemonset.apps/openebs-ndm created deployment.apps/openebs-ndm-operator created deployment.apps/openebs-admission-server created deployment.apps/openebs-localpv-provisioner created 

检查是否所有的OpenEBS组件都成功运行。

k3os-1374 [~]$ kubectl get pods -n openebs
NAME                                           READY   STATUS    RESTARTS   AGE
openebs-admission-server-f67f77588-8kl78       1/1     Running   0 65s openebs-provisioner-7b8c68bf44-7bjw8 1/1 Running 0 66s openebs-ndm-qp26v 1/1 Running 0 66s openebs-ndm-84zb4 1/1 Running 0 66s openebs-ndm-dzghs 1/1 Running 0 66s openebs-localpv-provisioner-5c87bbd974-55486 1/1 Running 0 65s openebs-ndm-operator-5fccfb7976-dvhj6 1/1 Running 0 66s openebs-snapshot-operator-6c4c64d4bc-qxdwd 2/2 Running 0 66s maya-apiserver-84785d7fbd-ck7sh 1/1 Running 0 66s 

OpenEBS cStor引擎需要将外部磁盘连接到组成cStor池的agent上。磁盘或块设备由称为节点磁盘管理器(简称为NDM)的组件管理。将磁盘连接到agent计算机后,通过执行以下命令来检查块设备。

k3os-1374 [~]$ kubectl get blockdevices -n openebs
NAME                                           NODENAME     SIZE          CLAIMSTATE   STATUS   AGE
blockdevice-30a3eb18f5b9e2d470de45e39f1036b0   k3os-15360   17179869184   Unclaimed    Active   1h blockdevice-86fc964305abe8970fc1508538a61dbc k3os-1374 17179869184 Unclaimed Active 1h blockdevice-b8735721689d5843bca10e7028f60a4e k3os-1091 17179869184 Unclaimed Active 1h 

在本例中,每个K3s agent计算机上都已连接1个块设备。让我们在spec.blockDevices下的池中创建manifest,然后创建池。


apiVersion: openebs.io/v1alpha1
kind: StoragePoolClaim
metadata:
  name: cstor-disk-pool
  annotations: cas.openebs.io/config: | - name: PoolResourceRequests value: |- memory: 2Gi - name: PoolResourceLimits value: |- memory: 4Gi spec: name: cstor-disk-pool type: disk poolSpec: poolType: striped blockDevices: blockDeviceList: - blockdevice-30a3eb18f5b9e2d470de45e39f1036b0 - blockdevice-86fc964305abe8970fc1508538a61dbc - blockdevice-b8735721689d5843bca10e7028f60a4e 

应用以上定义之后,通过执行以下命令检查池是否创建成功。

k3os-1374 [~]$ kubectl get csp
NAME                   ALLOCATED   FREE    CAPACITY   STATUS    TYPE      AGE
cstor-disk-pool-rgy3   270K        15.9G 15.9G Healthy striped 2m3s cstor-disk-pool-gij4 270K 15.9G 15.9G Healthy striped 2m2s cstor-disk-pool-09l1 270K 15.9G 15.9G Healthy striped 2m2s 

所有的池实例应该是健康的并且每个实例运行一个pod,通过执行以下命令可以找到pod:

k3os-1374 [~]$ kubectl get pods -n openebs -l app=cstor-pool
NAME                                    READY   STATUS    RESTARTS   AGE
cstor-disk-pool-rgy3-57f965b48c-srz2x   3/3     Running   0 8m33s cstor-disk-pool-gij4-77bb4b8f44-s6k89 3/3 Running 0 8m33s cstor-disk-pool-09l1-56d444996b-m698h 3/3 Running 0 8m33s 

创建cStor池之后,我们可以开始创建volume。为了能够说明清楚,我们部署一个带有cStor volume的busybox,作为其持久性存储。在创建池之前,我们需要创建一个storage class,它会指定在上述步骤中创建的storagePoolClaim,具体如下所示:

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: openebs-cstor
  annotations: openebs.io/cas-type: cstor cas.openebs.io/config: | - name: StoragePoolClaim value: "cstor-disk-pool" - name: ReplicaCount value: "3" provisioner: openebs.io/provisioner-iscsi 

根据上述定义中的要求,填充storagePoolClaim和ReplicaCount并创建storage class。创建PVC时必须使用此类存储。


kind: PersistentVolumeClaim
apiVersion: v1
metadata:  name: openebs-pvc spec:  storageClassName: openebs-cstor  accessModes:  - ReadWriteOnce  resources:  requests:  storage: 10Gi ---

猜你喜欢

转载自www.cnblogs.com/littleweb/p/12984704.html