如何在两个OpenShift集群间迁移有状态应用

时间 2020-07-27

原文原文链接

Portworx Kubemotion：在OpenShift集群间迁移有状态应用

Portworx是一个支撑K8S有状态应用的持久存储和数据管理平台。经过Portworx，它为有状态应用提供了一个单一的数据管理层，从而用户能够在任何底层架构上运行相似数据库这样的有状态应用。Kubemotion是Portworx的核心功能之一，发布在Portworx企业版2.0中。它赋能K8S用户在集群间迁移应用和数据、备份和恢复、以及作蓝绿部署。（https://docs.portworx.com/portworx-install-with-kubernetes/migration/kubemotion/）下面咱们介绍如何在红帽OpenShift集群之间，迁移有状态应用的持久卷和相关K8S资源。背景在企业客户中，一个常见的场景是：在一个云区域中运行研发测试环境，而在另外一个云区域中运行生产环境。研发测试环境一般会选择距离开发团队比较近，以下降网络延迟，而生产环境则会选择离用户比较近。K8S的无状态应用迁移相对比较容易，但迁移有状态应用是一个挑战。在演示中，咱们会在AWS位于美国东部（俄亥俄），和美国西部（俄勒冈）的两个数据中心的Openshift集群间，迁移K8S资源。美国东部区域（俄亥俄）部署的是研发测试环境，美国西部区域（俄勒冈）部署的是生产环境。在系统的测试环节完成后，开发团队将使用Portworx和Kubemotion，把存储卷和应用资源，从研发测试环境，迁移到生产环境中。mysql

研发测试环境和生产环境咱们有两个红帽OpenShift集群，分别是研发测试环境、以及生产环境，位于AWS的两个不一样区域上，两个环境都安装了最新版本的Portworx集群，而且正在运行。

上面的OpenShift集群表明了运行在AWS东部区域（俄亥俄）的研发测试环境。

上面的OpenShift集群表明了运行在AWS西部区域（俄勒冈）的生产环境。如今有一个基于LAMP的内容管理系统（CMS）运行在研发测试环境上，咱们须要把它迁移到生产环境里。研发测试环境里部署了MySQL和WordPress，它们都位于CMS命名空间里。关于如何在OpenShift上配置高可用的WordPress，能够参考这里的文档。（https://www.portworx.com/run-multi-tenant-ha-wordpress-platform-red-hat-openshift/）

Portworx存储集群支撑了附加在这些Pod上的持久卷。sql

下面的卷附加到了MySQL pod上。数据库

对于WordPress CMS, 有个共享的Portworx卷附加到了Pod上。json

配置好的应用，能够经过WordPress相关的服务来访问。api

准备源环境和目标环境在咱们迁移以前，咱们须要配置源集群和目标集群。按照下面的步骤来准备相关的环境。建立对象存储的访问身份验证咱们须要在源集群和目标集群上都建立对象存储的访问身份验证信息。咱们须要得到目标集群的UUID，它会被附加在访问身份的名称上。

为了完成这一步，你须要AWS帐户的访问密钥和Secret密钥。若是你已经配置好了AWS CLI，能够在这里发现这些密钥。~/.aws/credentials安全

回到生产环境集群，运行下面的命令来复制UUID。网络

PX_POD=$(oc get pods -l name=portworx -n kube-system -o jsonpath='{.items[0].metadata.name}')oc -n=kube-system exec $PX_POD -- /opt/pwx/bin/pxctl status

记下集群的UUID，放在一个安全的地方。架构

咱们在生产环境内，来建立生产环境集群的身份验证信息。app

oc -n=kube-system exec $PX_POD -- /opt/pwx/bin/pxctl credentials create \	--provider s3 \	--s3-access-key  \	--s3-secret-key  \	--s3-region ap-southeast-1  \	--s3-endpoint s3.ap-southeast-1.amazonaws.com clusterPair_c02528e3-30b1-43e7-91c0-c26c111d57b3

确保身份验证信息的名称按照这样的格式：‘clusterPair_UUID’。负载均衡

回到研发测试集群，重复操做来建立身份验证信息。

获取目标集群的Token下一步是获取生产环境集群的Token，它会被用来建立集群配对的YAML文件。到生产环境集群，运行下面的命令来访问Token。

PX_POD=$(oc get pods -l name=portworx -n kube-system -o jsonpath='{.items[0].metadata.name}')oc -n=kube-system exec $PX_POD -- /opt/pwx/bin/pxctl cluster token show

记下集群Token，放置在一个安全的地方。为Portworx服务获取负载均衡的端点咱们还须要生产环境集群上的，与Portworx服务关联的负载均衡的DNS名称。咱们能够经过下面的命令获得。

oc describe svc portworx-service -n kube-system

到这里，你已经准备好下面的数据了：

1. 目标集群的Token

2. 指向Portworx服务的负载均衡的CNAME

建立集群配对参数

咱们从生产环境（目标集群）来建立YAML文件。而且把它应用到研发测试环境（源集群）。

确保你在在生产环境中，运行下面的命令。

storkctl generate clusterpair -n cms prodcluster > clusterpair.yaml

打开clusterpair.yaml，在选项中增长下面的细节信息。它们反映了目标集群里的负载均衡的IP地址或者DNS名称，以及与目标集群关联的Token。

为Kubemotion进行集群配对

经过为源集群配置配对参数，咱们能够把集群进行配对。

咱们回到源集群（研发测试环境），来进行集群配对。

oc apply -f clusterpair.yaml
oc get clusterpair -n cms

<pre>oc getclusterpairs</pre> 的输出确认了配对已经成功。

验证配对状态

咱们能够经过storkctl CLI来验证配对状态。确保存储的状态，和调度器的状态都是正常，没有错误。

storkctl -n=cms get clusterpair

咱们验证了，源集群和目标集群已经配对成功。

如今咱们开始迁移。

从源集群向目标集群迁移CMS应用

在研发测试环境下，经过下面的步骤开始CMS应用的迁移。

开始迁移

用下面的内容建立一个名为migration.yaml的YAML文件。

apiVersion: stork.libopenstorage.org/v1alpha1
kind: Migrationmetadata:
  name: cmsmigration  namespace: cms
spec:
  # This should be the name of the cluster pair created above
  clusterPair: prodcluster  # If set to false this will migrate only the Portworx volumes. No PVCs, apps, etc will be migrated
  includeResources: true
  # If set to false, the deployments and stateful set replicas will be set to 0 on the destination.
  # There will be an annotation with "stork.openstorage.org/migrationReplicas" on the destinationto store the replica count from the source.
  startApplications: true
  # List of namespaces to migrate
  namespaces:
  - cms

这里包括一些很重要的信息，例如集群配对的名称、迁移中包括的命名空间，须要被迁移的资源类型。

把YAML文件提交到研发测试集群，来开始迁移。

oc apply -f migration.yaml
migration.stork.libopenstorage.org/cmsmigration created

监控迁移的过程

使用storkctl咱们来监控迁移的过程。

storkctl get migration -n cms

一旦迁移完成，storkctl 会报告最后迁移到目标集群的卷的数量以及资源。

经过下面的命令，能够获得迁移过程的详细信息。

oc describe migration cmsmigration -n=cms% oc describe migration cmsmigration -n=cmsName:         cmsmigrationNamespace:    cmsLabels:Annotations:  kubectl.kubernetes.io/last-applied-configuration:
                {"apiVersion":"stork.libopenstorage.org/v1alpha1","kind":"Migration","metadata":{"annotations":{},"name":"cmsmigration","namespace":"cms"}...API Version:  stork.libopenstorage.org/v1alpha1Kind:         MigrationMetadata:
  Creation Timestamp:  2019-11-08T02:33:44Z
  Generation:          9
  Resource Version:    346702
  Self Link:           /apis/stork.libopenstorage.org/v1alpha1/namespaces/cms/migrations/cmsmigration
  UID:                 2eeb5d56-01d0-11ea-a393-02fec625b80aSpec:
  Admin Cluster Pair:
  Cluster Pair:        prodcluster  Include Resources:   true
  Include Volumes:     true
  Namespaces:
    cms  Post Exec Rule:
  Pre Exec Rule:
  Selectors:
  Start Applications:  trueStatus:
  Finish Timestamp:  2019-11-08T02:34:56Z
  Resources:
    Group:      core    Kind:       PersistentVolume
    Name:       pvc-ac60362f-0170-11ea-8418-06c5879a6a7a
    Namespace:
    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      core    Kind:       PersistentVolume
    Name:       pvc-c5dd1955-0170-11ea-a393-02fec625b80a
    Namespace:
    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      core    Kind:       Service
    Name:       mysql    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      core    Kind:       Service
    Name:       wordpress    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      core    Kind:       PersistentVolumeClaim
    Name:       px-mysql-pvc    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      core    Kind:       PersistentVolumeClaim
    Name:       px-wp-pvc    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      apps    Kind:       Deployment
    Name:       mysql    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      apps    Kind:       Deployment
    Name:       wordpress    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1    Group:      route.openshift.io    Kind:       Route
    Name:       wp    Namespace:  cms    Reason:     Resource migrated successfully    Status:     Successful
    Version:    v1  Stage:        Final
  Status:       Successful
  Volumes:
    Namespace:                cms    Persistent Volume Claim:  px-mysql-pvc    Reason:                   Migration successful for volume    Status:                   Successful
    Volume:                   pvc-ac60362f-0170-11ea-8418-06c5879a6a7a
    Namespace:                cms    Persistent Volume Claim:  px-wp-pvc    Reason:                   Migration successful for volume    Status:                   Successful
    Volume:                   pvc-c5dd1955-0170-11ea-a393-02fec625b80aEvents:
  Type    Reason      Age                From   Message
  ----    ------      ----               ----   -------
  Normal  Successful  82s                stork  Volume pvc-ac60362f-0170-11ea-8418-06c5879a6a7a migrated successfully  Normal  Successful  82s                stork  Volume pvc-c5dd1955-0170-11ea-a393-02fec625b80a migrated successfully  Normal  Successful  78s                stork  /v1, Kind=PersistentVolume /pvc-ac60362f-0170-11ea-8418-06c5879a6a7a: Resource migrated successfully  Normal  Successful  78s                stork  /v1, Kind=PersistentVolume /pvc-c5dd1955-0170-11ea-a393-02fec625b80a: Resource migrated successfully  Normal  Successful  78s                stork  /v1, Kind=Service cms/mysql: Resource migrated successfully  Normal  Successful  78s                stork  /v1, Kind=Service cms/wordpress: Resource migrated successfully  Normal  Successful  78s                stork  /v1, Kind=PersistentVolumeClaim cms/px-mysql-pvc: Resource migrated successfully  Normal  Successful  78s                stork  /v1, Kind=PersistentVolumeClaim cms/px-wp-pvc: Resource migrated successfully  Normal  Successful  78s                stork  apps/v1, Kind=Deployment cms/mysql: Resource migrated successfully  Normal  Successful  77s (x2 over 78s)  stork  (combined from similar events): route.openshift.io/v1, Kind=Route cms/wp: Resource migrated successfully

在生产环境上验证迁移

回到生产环境，咱们来检查CMS命名空间里的全部资源。

oc get all -n cms

你能够经过为WordPress Pod使用port-forwardding，来访问应用。

小结

Kubemotion为有状态应用增长了迁移功能。它能够在本地环境和云环境之间，以及多云环境之间，无缝的迁移卷。