K8S--集群安全

机制说明


Kubernetes是一个分布式集群管理工具, 保证集群的安全性是一个重要任务. API Server是集群内部各个组件通讯的中介, 也是外部控制的入口. 因此Kubernetes的安全机制基本围绕保护API Server来设计. Kubernetes使用了认证(Authentication), 鉴权(Authorization), 准入控制(Admission Control)三步来保证API Server的安全node

K8S--集群安全

认证(Authentication)


  • HTTP Token认证 : 经过一个Token来识别合法用户

HTTP Token的认证是用一个很长的特殊编码方式的而且难以被模仿的字符串-token来表达客户的一种方式. Token是一个很长的很复杂的字符串, 每一个token对应一个用户名存储在API Server能访问的文件中. 当客户点发起API 调用时, 须要在HTTP Header里放入tokenlinux

  • HTTP Base认证: 经过用户名 + 密码的方式认证

用户名+ : + 密码用BASE64算法进行编码后的字符串放在HTTP Request中的Heather Authorization域里发送给服务端, 服务端收到后进行编码, 获取用户名及密码算法

  • 最严格的HTTPS证书认证: 基于CA根证书签名的客户端身份认证方式
  1. HTTPS证书认证:
    K8S--集群安全
  • token是使用API Server私钥签名的JWT. 用于访问API Server时, server端认证json

  • ca.crt, 根证书. 用于Client端验证API Server发送的证书api

  • namespace 表示这个service-account-token的做用域名空间安全

  • Kubernetes组件对API Server的访问: kubectl、Controller Manager、Scheduler、kubelet、kube-proxy分布式

  • Kubernetes管理的Pod对容器的访问: Pod(dashborad也是以Pod形式运行)ide

  • Controller Manager、Scheduler与API Server在同一台机器, 因此直接使用API Server的非安全端口访问, --insecure-bind-address=127.0.0.1工具

  • Kubectl、kubelet、kube-proxy访问API Server就须要证书进行HTTPS双向认证测试

  • 手动签发: 经过K8S集群的跟CA进行签发HTTPS证书

  • 自动签发: kubelet首次访问API Server时, 使用token作认证, 经过后, Controller Manager会为Kubelet生成一个证书, 之后的访问都是用证书作认证了

2 .须要认证的节点

K8S--集群安全

两种类型

安全性说明:

证书颁发

3 . kubeconfig

kubeconfig文件包含集群参数(CA证书、API Server地址), 客户端参数(上面生成的证书和私钥), 集群context信息(集群名称, 用户名). Kubernetes组件经过启动时指定不一样的kubeconfig文件能够切换到不一样的集群

4 .ServiceAccount

Pod中的容器访问API Server, 由于Pod的建立、销毁是动态的, 因此要为他手动生成证书就不可行了. Kubernetes使用了 Service Account解决Pod访问API Server的认证问题

5 .Secret与SA关系

Kubernetes设计了一种资源对象 Secret. 分为两类 1. 用于 ServiceAccount的service-account-token, 2. 用于保存用户自定义保密信息的Opaque. Service Account中用到包含三个部分 : Token ca.crt namespace

kubectl get secret --all-namespaces

kubectl describe secret default-token-fpmdh --all-namespaces

默认状况下, 每一个namespace都会有一个ServiceAccount, 若是Pod在建立时没有指定ServiceAccount, 就会使用Pod所需的namespace的ServiceAccount

K8S--集群安全

鉴权(Authorization)


认证过程, 只是确认通讯的双方是可信的, 能够互相通讯. 而鉴权是肯定请求方有哪些资源的权限.API Server目前支持如下几种受权策略(经过API Server启动参数 --authorization-mode 设置)

  • AlwaysDeny: 表示拒绝全部的请求, 通常用于测试

  • AlwaysAllow: 容许接受全部的请求, 通常用于测试

  • ABAC(Attribute-Based Access Control) : 基于属性的访问控制, 表示使用用户配置的受权规则对用户请求进行匹配和控制 (已经被淘汰, 不能及时更新)

  • Webbook: 经过调用外部REST服务对用户进行受权

  • RBAC(Role-Based Access Control) : 基于角色的访问控制, 现行默认规则

RBAC受权模式

RBAC(Role-Based Access Control)基于角色的访问控制, 在Kubernetes1.5引入, 称为默认标准. 相比其余方式, 拥有如下优点:

  • 对集群中的资源和非资源均拥有完整的覆盖

  • 整个RBAC彻底由几个API对象完成, 同其余API对象同样, 能够用kubectl或API进行操做

  • 能够在运行时进行调整, 无需重启API Server

RBAC的API资源对象说明

RBAC引入了4个新的顶级资源对象: Role 、ClusterRole 、RoleBinding 、ClusterRoleBinding 4种对象类型都可以经过kubectl与API操做
K8S--集群安全

Kubernetes并不会提供用户管理, Kubernetes组件(kubectl、kube-proxy)或是其余定义的用户在向CA申请证书时, 须要提供一个证书请求文件

{
    "CN": "admin",
    "hosts": [],
    "key": {
        "algo": "rsa",
        "size": 2048
    },
    "names":[
        {
            "c": "CN",
            "ST": "HangZhou",
            "L": "XS",
            "O": "system:masters",
            "OU": "System"
        }
    ]
}

API Server会把客户端证书的CN字段做为User, 把names.O字段做为Group

kubelet使用TLS Bootstraping认证时, API Server可使用 Bootstrap Tokens或者 Token Authentication file验证=token, 不管哪种, Kubernetes都会为token绑定一个默认的User和Group

Pod使用ServiceAccount认证时, service-account-token中的JWT会保存User信息, 有了用户信息,再建立一对角色/角色绑定(集群角色/集群角色绑定)资源对象,就能够完成权限绑定了

Role and ClusterRole
在RBAC API中, Role表示一组规则权限. 权限只会增长(累加权限) , 不存在一个资源一开始就有不少权限而经过RBAC对其进行减小的操做; Role能够定义在一个namespace中, 若是想要跨namespace则能够建立ClusterRole

kind: Role
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  namespace: default
  name: pod-reader
rules: 
- apiGroups: [""] 
  resources: ["pods"]
  verbs: ["get", "watch", "list"]

ClusterRole具备与Role相同的权限角色控制能力, 不一样的是ClusterRole是集群级别的, ClusterRole能够用于:

  • 集群级别的资源控制(如: node访问权限)

  • 非资源型endpoint是(如: /healthz 访问)

  • 全部命名空间资源控制(如: Pods)
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  name: secret-reader
rules: 
- apiGroups: [""] 
  resources: ["secrets"]
  verbs: ["get", "watch", "list"]

RoleBinding and ClusterRoleBinding

RoleBinding能够将角色中定义的权限授予用户或用户组, RoleBinding包含一组权限列表(subjects) , 权限列表中包含有不一样形式的待受权权限资源类型(User, groups, or service accounts); RoleBinding一样包含对被Bind的Role引用; RoleBinding适用于某个命名空间内受权, 而ClusterRoleBinding适用于集群范围内的受权

将default命名空间的pod-readerRole授予jane用户, 此后jane用户在default命名空间中将具备pod-reader的权限

kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  name: read-pods
  namespace: default
subjects: 
- kind: User
  name: jane
  apiGroup: rbac.authorization.k8s.io
roleRef:
  kind: Role
  name: pod-reader
  apiGroup: rbac.authorization.k8s.io

RoleBinding一样能够引用ClusterRole来对当前namespace内用户、用户组或ServiceAccount进行受权, 这种操做容许集群管理员在整个集群内定义一些通用的ClusterRole, 而后在不一样的namespace中使用RoleBinding来引用.

如 : 如下RoleBinding引用一个ClusterRole, 这个ClusterRole具备整个集群内对secrets的访问权限;可是其受权用户dave只能访问development空间中的secrets(由于RoleBinding定义在development命名空间)

kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  name: read-secrets
  namespace: development
subjects: 
- kind: User
  name: dave
  apiGroup: rbac.authorization.k8s.io
roleRef:
  kind: ClusterRole
  name: secret-reader
  apiGroup: rbac.authorization.k8s.io

使用ClusterRoleBinding能够对整个集群中的全部的命名空间资源权限进行受权; 如下ClusterRoleBinding样例展现了受权manager组内全部用户在所有命名空间中对secrets进行访问

kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  name: read-secrets-global
subjects: 
- kind: Group
  name: manager
roleRef:
  kind: ClusterRole
  name: secret-reader
  apiGroup: rbac.authorization.k8s.io

Resources
Kubernetes集群内一些资源通常以其名称字符串来表示, 这些字符串通常会在API的URL地址中出现; 同时某些资源也会包含子资源, 例如logs资源就属于Pods的子资源, API中URL样例以下

GET /api/v1/namespaces/{namespace}/pods/{name}/log

若是要在RBAC受权模型中控制这些子资源的访问权限, 能够经过 / 分隔符来实现, 如下是 一个定义Pods资源logs访问权限的Role定义样例

kind: Role
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata: 
  namespace: default
  name: pod-and-pod-logs-reader
rules: 
- apiGroups: [""]
  resources: ["pods", "pods/log"]
  verbs: ["get", "list"]

to Subjects

RoleBinding和ClusterRoleBinding能够将Role绑定到Subjects; Subjects能够是Groups、users或者Service Accounts

Subjects中Users使用字符串表示, 能够是一个普通的名字字符串, 如alice; 也能够是email格式的邮箱地址; 甚至是一组字符串形式的数字ID. 可是Users的前缀system:是系统保留的, 集群管理员应该确保普通用户不会使用这个前缀格式.

Groups书写格式与Users相同, 都为一个字符串, 而且没有特定的格式要求; 一样system:前缀为系统保留

建立一个用户只能管理dev空间:

{
    "CN": "devuser",
    "hosts": [],
    "key": {
        "algo": "rsa",
        "size": 2048
    },
    "names":[
        {
            "c": "CN",
            "ST": "HangZhou",
            "L": "HangZhou",
            "O": "k8s",
            "OU": "System"
        }
    ]
}

# 下载证书生成工具
wget https://pkg.cfssl.org/R1.2/cfssl_linux-amd64
mv cfssl_linux-amd64 /usr/local/bin/cfssl

wget https://pkg.cfssl.org/R1.2/cfssljson_linux-amd64
mv cfssljson_linux-amd64 /usr/local/bin/cfssljson

wget https://pkg.cfssl.org/R1.2/cfssl-certinfo_linux-amd64
mv cfssl-certinfo_linux-amd64 /usr/local/bin/cfssl-certinfo

cfssl gencert -ca=ca.crt -ca-key=ca.key -profile=kubernetes /root/devuser-csr.json | cfssljson -bare devuser

# 设置集群参数
export KUBE_APISERVER="https://172.16.11.207:6443"
kubectl config set-cluster kubernetes \
--certificate-authority=/etc/kubernetes/pki/ca.crt \
--embed-certs=true \
--server=${KUBE_APISERVER} \
--kubeconfig=devuser.kubeconfig

# 设置客户端认证参数
kubectl config set-credentials devuser \
--client-certificate=/etc/kubernetes/pki/devuser.pem
--client-key=/etc/kubernetes/pki/devuser-key.pem
--embed-certs=true \
--kubeconfig=devuser.kubeconfig

#设置上下文参数
kubectl config set-context kubernetes
--cluster=kubernetes \ 
--user=devuser \
--namespace=dev \ 
--kubeconfig=devuser.kubeconfig

# 设置上下文
kubectl config use-context kubernetes --kubeconfig=devuser.kubeconfig

cp -f ./devuser.kubeconfig /root/.kube/config

kubectl create rolebindingdevuser-admin-binding --clusterrole=admin --user=devuser --namespace=dev

准入控制

准入控制是API Server的插件集合, 经过添加不一样的插件, 实现额外的准入控制规则.甚至于API Server的一些主要的功能都须要经过Admission Controllers实现, 好比 : ServiceAccount

K8S1.14推荐列表

NamespaceLifecycle    LimitRanger    ServiceAccount     DefaultStorageClass    DefaultTolerationSeconds    MutatingAdmissionWebbook    ValidatingAdmissionWebbook    ResourceQuota

列举一些插件功能:

  • namespaceLifecycle: 防止在不存在的namespace上建立对象, 方式删除系统预置的namespace, 删除namespace时, 连带删除全部的资源对象.

  • LimitRanger: 确保请求的资源不会超过资源所在的Namespace的LimitRange的限制

  • ServiceAccount: 实现了自动化添加ServiceAccount

  • ResourceQuota: 确保请求的
相关文章
相关标签/搜索