Kubernetes 准入控制 Admission Controller 介绍

时间 2019-11-21 标签 kubernetes 准入控制 admission controller 介绍

1.什么是Admission Controller

Admission Controller（准入控制）是 Kubernetes API Server 用于拦截请求的一种手段。Admission能够作到对请求的资源对象进行校验，修改。service mesh最近很火的项目Istio天生支持Kubernetes，利用的就是admission对服务实例自动注入sidecar。node

假如对 Kubernetes 有必定的了解的话，应该会知道在 Kubernetes 中还有 authn/authz，为何还会引入 admission 这种机制？git

1)authn/authz 是 Kubernetes 的认证鉴权，运行在 filter 中，只能获取 http 请求 header 以及证书，并不能获取请求的 body。因此 authn/authz 只能对客户端进行认证和鉴权，不能够对请求的对象进行任何操做，由于这里根本还获取不到对象。 2)Admission 运行在 API Server 的增删改查 handler 中，能够天然地操做 API resource。github

下面将对 Admission Controller 工做流作一番详解。

API Server 接收到客户端请求后首先进行认证鉴权，认证鉴权经过后才会进行后续的endpoint handler处理。

当API Server 接收到对象后首先根据 http 的路径能够知道对象的版本号，而后将 request body 反序列化成 versioned object.
versioned object 转化为 internal object，即没有版本的内部类型，这种资源类型是全部 versioned 类型的超集。只有转化为 internal 后才能适配全部的客户端 versioned object 的校验。
Admission Controller 具体的 admit 操做，能够经过这里修改资源对象，例如为 Pod 挂载一个默认的 Service Account 等。 4)API Server internal object validation，校验某个资源对象数据和格式是否合法，例如：Service Name 的字符个数不能超过63等。 5)Admission Controller validate，能够自定义任何的对象校验规则。 6)internal object 转化为 versioned object，而且持久化存储到 etcd。

注：以上 versioned object 和 internal object 直接的转换关系会在《深度剖析Kubernetes API Server三部曲 - part 2》详细解释，欢迎持续关注。golang

2.如何使用 admission controller

Kubernetes 1.10以前的版本能够使用--admission-control 打开 Admission Controller。同时--admission-control 的顺序决定 Admission 运行的前后。其实这种方式对于用户来说实际上是挺复杂的，由于这要求用户对全部的 Admission Controllers 须要彻底了解。web

若是使用Kubernetes 1.10以后的版本，--admission-control 已经废弃，建议使用 --enable-admission-plugins --disable-admission-plugins 指定须要打开或者关闭的 Admission Controller。同时用户指定的顺序并不影响实际 Admission Controllers 的执行顺序，对用户来说很是友好。api

值得一提的是，有些 Admission Controller 可能会使用 Alpha 版本的 API，这时必须首先使能其使用的 API 版本。不然 Admission Controller 不能工做，可能会影响系统功能。bash

2.1 webhook admission

目前 Kubernetes 中已经有很是多的 Admission 插件，可是并不能保证知足全部开发者的需求。众所周知，Kbernetes 之因此受到推崇，它的可扩展能力功不可没。Admission 也提供了一种 webhook 的扩展机制。session

MutatingAdmissionWebhook：在对象持久化以前进行修改
ValidatingAdmissionWebhook：在对象持久化以前进行

可能有读者接触过另一种动态可扩展的机制 Initializers，不过至今仍是 Apha 特性，社区讨论有可能会把它移除。因此选择动态 Admission 首选 webhook。app

2.2 如何使用webhook admission

Webhook Admission 属于同步调用，须要用户部署本身的 webhook server，建立自定义的配置资源对象： ValidatingWebhookConfiguration 或 MutatingWebhookConfiguration。ide

开发webhook server

这里我推荐参考社区 e2e 测试用的 server，对细节源代码感兴趣的读者能够自行参考 github.com/kubernetes/…，这里面利用 golang 标准库实现的一个基本的 http server，并注册多个路由，同时服务于多种 resource 的准入控制。重点关注一下资源对象的 decode 过程，这是k8s apimachinery 的高级功能。利用了 apimachinery 的 scheme 的能力，使用以前必需要将 api 注册到 scheme 中，代码详见： github.com/kubernetes/…。一个典型的 webhook 修改资源对象（Pod）的样例代码以下所示。

func mutatePods(ar v1beta1.AdmissionReview) *v1beta1.AdmissionResponse {
   glog.V(2).Info("mutating pods")
   podResource := metav1.GroupVersionResource{Group: "", Version: "v1", Resource: "pods"}
   if ar.Request.Resource != podResource {
      glog.Errorf("expect resource to be %s", podResource)
      return nil
   }

   raw := ar.Request.Object.Raw
   pod := corev1.Pod{}
   deserializer := codecs.UniversalDeserializer()
// pod的解码，利用apimachinery
   if _, _, err := deserializer.Decode(raw, nil, &pod); err != nil {
      glog.Error(err)
      return toAdmissionResponse(err)
   }
   reviewResponse := v1beta1.AdmissionResponse{}
   reviewResponse.Allowed = true
   if pod.Name == "webhook-to-be-mutated" {
      reviewResponse.Patch = []byte(addInitContainerPatch)
      pt := v1beta1.PatchTypeJSONPatch
      reviewResponse.PatchType = &pt
   }
   return &reviewResponse
   }
复制代码

部署webhook server

# kubectl create –f webhook-server.yaml
复制代码

apiVersion: v1
kind: Namespace
metadata:
  name: e2e-tests-webhook-gbgt6
spec:
  finalizers:
  - kubernetes
---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  labels:
    app: sample-webhook
    webhook: "true"
  name: sample-webhook-deployment
  namespace: e2e-tests-webhook-gbgt6
spec:
  replicas: 1
  selector:
    matchLabels:
      app: sample-webhook
      webhook: "true"
  template:
    metadata:
      labels:
        app: sample-webhook
        webhook: "true"
    spec:
      containers:
      - args:
        - --tls-cert-file=/webhook.local.config/certificates/tls.crt
        - --tls-private-key-file=/webhook.local.config/certificates/tls.key
        - --alsologtostderr
        - -v=4
        - 2>&1
        image: gcr.io/kubernetes-e2e-test-images/k8s-sample-admission-webhook-amd64:1.10v2
        imagePullPolicy: IfNotPresent
        name: sample-webhook
        volumeMounts:
        - mountPath: /webhook.local.config/certificates
          name: webhook-certs
          readOnly: true
      volumes:
      - name: webhook-certs
        secret:
          defaultMode: 420
          secretName: sample-webhook-secret
---
apiVersion: v1
kind: Service
metadata:
  labels:
    test: webhook
  name: e2e-test-webhook
  namespace: e2e-tests-webhook-gbgt6
spec:
  ports:
  - port: 443
    protocol: TCP
    targetPort: 443
  selector:
    webhook: "true"
  sessionAffinity: None
  type: ClusterIP
复制代码

建立 webhook server Deployment 以及 Service，供 API Server 调用。

建立MutatingWebhookConfiguration

# kubectl create –f webhook-config.yaml
复制代码

apiVersion: admissionregistration.k8s.io/v1beta1
kind: MutatingWebhookConfiguration
metadata:
  name: e2e-test-mutating-webhook-pod
webhooks:
- clientConfig:
    caBundle: LS0tLS1CRUdJTiBDRVJUSUZJQ0FURS0tLS0tCk1JSUMyRENDQWNDZ0F3SUJBZ0lCQURBTkJna3Foa2lHOXcwQkFRc0ZBREFkTVJzd0dRWURWUVFERXhKbE1tVXQKYzJWeWRtVnlMV05sY25RdFkyRXdIaGNOTVRnd056RTVNRGMwT1RJeFdoY05Namd3TnpFMk1EYzBPVEl4V2pBZApNUnN3R1FZRFZRUURFeEpsTW1VdGMyVnlkbVZ5TFdObGNuUXRZMkV3Z2dFaU1BMEdDU3FHU0liM0RRRUJBUVVBCkE0SUJEd0F3Z2dFS0FvSUJBUURFVVFEWVN6SGl3SUFHU1dHSWRBSmVBbnMrNFhaYjlZc3VuQlBVTkJPdHZqeFoKV3NSbUxydE0zVU9lcEszeGsvMzZCSS96RkdXdUNpMlJ0TWUxSWtEa2tVMzNEZE83K0ExVyt2NVZNVnFqL0lDTApsc29USml3TFhTcGowTHNwSUNVdGtqT1dlRjVhK3lJVHgyR01TMG9ZbWtuaHB0RXMrc2tKQjFMWm1uVTBaWFpzClRKak9Lb05ueHdVaTl4QnRUTXBQRWw2cVhmb3dCWlpvYjlkUzNtNzFLbjJCdU5Ec0s3YnVRcGJvdk9XdUQyNDAKdzNLQVJnT04xcjA4Vm4zd1I1MHVXS09tSkVsLzRUZ2JnSTRkaG85WHNIWUhUdnk4R3JRMXhYZE43ZEhSTlpHNQo5aDhmOUUzdjg1VWxwSEVWQThqUHB4RE5SSm9qRXVGQk9raFJEZEY1QWdNQkFBR2pJekFoTUE0R0ExVWREd0VCCi93UUVBd0lDcERBUEJnTlZIUk1CQWY4RUJUQURBUUgvTUEwR0NTcUdTSWIzRFFFQkN3VUFBNElCQVFDWWl4VUsKYkhsRUpCK2t4THdqdktySDQ1OVVsNUJjb0VXZE1BNnArUC8yWXVZa2NuWC9GRVNjUFRxUS9vdkF3ejU1ZG1FUwpJTjVZOWd2ZlJxdWhZcEdWOHVFSWpzVkczTjdKQm1wM0NyclEyd3FYeHV3cndkVXV1dDltQSt2RkQ4Q2FQSE8xCmVad1J6NEkzTktFQ0xHMHJXQWxseEVvUm9tQ2UvaWZIUnRNRklTRk5sSnZVNlhIbzFDVWNFQ2FwOG9hYXN2cFcKT2JBQjVqQzc5WWJXN2lWVm54cjZGMnRvOG9oSEdNSEpXR1pwSTNKbVpNbGVOK01kVm5ySFdXSXBkOG9iS2E3TgpqSlZTczgzRmlDMzd4d2dqMUQyaTNHUnh5bHNKZEdJWTl4WVpQVmNNUTh6Z2FMMUpJUk1BdVZYbHczUkRzSDR0Cms5WmFybGY1NG9BOUN0Nk8KLS0tLS1FTkQgQ0VSVElGSUNBVEUtLS0tLQo=
    service:
      name: e2e-test-webhook
      namespace: e2e-tests-webhook-gbgt6
      path: /mutating-pods
  failurePolicy: Ignore
  name: adding-init-container.k8s.io
  namespaceSelector: {}
  rules:
  - apiGroups:
    - ""
    apiVersions:
    - v1
    operations:
    - CREATE
    resources:
    - pods
    - 
复制代码

rules 表示对于 core/v1/pods 资源对象建立的时候调用 mutating webhook。server 的地址及路径经过 clientConfig 指明。

/mutating-pods是指调用 webhook server 执行 mutatePods，为 pod 增长 init initContainers。

func mutatePods(ar v1beta1.AdmissionReview) *v1beta1.AdmissionResponse {
   glog.V(2).Info("mutating pods")
   podResource := metav1.GroupVersionResource{Group: "", Version: "v1", Resource: "pods"}
   if ar.Request.Resource != podResource {
      glog.Errorf("expect resource to be %s", podResource)
      return nil
   }

   raw := ar.Request.Object.Raw
   pod := corev1.Pod{}
   deserializer := codecs.UniversalDeserializer()
   if _, _, err := deserializer.Decode(raw, nil, &pod); err != nil {
      glog.Error(err)
      return toAdmissionResponse(err)
   }
   reviewResponse := v1beta1.AdmissionResponse{}
   reviewResponse.Allowed = true
   if pod.Name == "webhook-to-be-mutated" {
      reviewResponse.Patch = []byte(addInitContainerPatch)
      pt := v1beta1.PatchTypeJSONPatch
      reviewResponse.PatchType = &pt
   }
   return &reviewResponse
}
复制代码

建立Pod

kubectl create –f pod.yaml
复制代码

apiVersion: v1
kind: Pod
metadata:
  name: webhook-to-be-mutated
  namespace: e2e-tests-webhook-gbgt6
spec:
  containers:
  - image: k8s.gcr.io/pause:3.1
    name: example
复制代码

查询Pod

# kubectl get pod webhook-to-be-mutated –n e2e-tests-webhook-gbgt6 -oyaml
复制代码

apiVersion: v1
kind: Pod
metadata:
  creationTimestamp: 2018-07-19T07:49:37Z
  name: webhook-to-be-mutated
  namespace: e2e-tests-webhook-gbgt6
  resourceVersion: "806"
  selfLink: /api/v1/namespaces/e2e-tests-webhook-gbgt6/pods/webhook-to-be-mutated
  uid: 48d2e91d-8b28-11e8-b16d-286ed488dc10
spec:
  containers:
  - image: k8s.gcr.io/pause:3.1
    imagePullPolicy: IfNotPresent
    name: example
    resources: {}
    terminationMessagePath: /dev/termination-log
    terminationMessagePolicy: File
    volumeMounts:
    - mountPath: /var/run/secrets/kubernetes.io/serviceaccount
      name: default-token-jhqlb
      readOnly: true
  dnsPolicy: ClusterFirst
  initContainers:
  - image: webhook-added-image
    imagePullPolicy: Always
    name: webhook-added-init-container
    resources: {}
    terminationMessagePath: /dev/termination-log
    terminationMessagePolicy: File
  nodeName: 127.0.0.1
  priority: 0
  restartPolicy: Always
  schedulerName: default-scheduler
  securityContext: {}
  serviceAccount: default
  serviceAccountName: default
  terminationGracePeriodSeconds: 30
  tolerations:
  - effect: NoExecute
    key: node.kubernetes.io/not-ready
    operator: Exists
    tolerationSeconds: 300
  - effect: NoExecute
    key: node.kubernetes.io/unreachable
    operator: Exists
    tolerationSeconds: 300
  volumes:
  - name: default-token-jhqlb
    secret:
      defaultMode: 420
      secretName: default-token-jhqlb
复制代码

能够看出，建立成功的pod已经多了一个名字为 webhook-added-init-container的initContainers。

3.总结

最后咱们来总结下 webhook Admission 的优点

webhook 可动态扩展 Admission 能力，知足自定义客户的需求
不须要重启 API Server，可经过建立 webhook configuration 热加载 webhook admission。