Kubernetes是一个分布式集群管理工具, 保证集群的安全性是一个重要任务. API Server是集群内部各个组件通讯的中介, 也是外部控制的入口. 因此Kubernetes的安全机制基本围绕保护API Server来设计. Kubernetes使用了认证(Authentication), 鉴权(Authorization), 准入控制(Admission Control)三步来保证API Server的安全node
HTTP Token的认证是用一个很长的特殊编码方式的而且难以被模仿的字符串-token来表达客户的一种方式. Token是一个很长的很复杂的字符串, 每一个token对应一个用户名存储在API Server能访问的文件中. 当客户点发起API 调用时, 须要在HTTP Header里放入tokenlinux
用户名+ : + 密码用BASE64算法进行编码后的字符串放在HTTP Request中的Heather Authorization域里发送给服务端, 服务端收到后进行编码, 获取用户名及密码算法
token是使用API Server私钥签名的JWT. 用于访问API Server时, server端认证json
ca.crt, 根证书. 用于Client端验证API Server发送的证书api
namespace 表示这个service-account-token的做用域名空间安全
Kubernetes组件对API Server的访问: kubectl、Controller Manager、Scheduler、kubelet、kube-proxy分布式
Kubernetes管理的Pod对容器的访问: Pod(dashborad也是以Pod形式运行)ide
Controller Manager、Scheduler与API Server在同一台机器, 因此直接使用API Server的非安全端口访问, --insecure-bind-address=127.0.0.1工具
Kubectl、kubelet、kube-proxy访问API Server就须要证书进行HTTPS双向认证测试
手动签发: 经过K8S集群的跟CA进行签发HTTPS证书
2 .须要认证的节点
两种类型
安全性说明:
证书颁发
3 . kubeconfig
kubeconfig文件包含集群参数(CA证书、API Server地址), 客户端参数(上面生成的证书和私钥), 集群context信息(集群名称, 用户名). Kubernetes组件经过启动时指定不一样的kubeconfig文件能够切换到不一样的集群
4 .ServiceAccount
Pod中的容器访问API Server, 由于Pod的建立、销毁是动态的, 因此要为他手动生成证书就不可行了. Kubernetes使用了 Service Account解决Pod访问API Server的认证问题
5 .Secret与SA关系
Kubernetes设计了一种资源对象 Secret. 分为两类 1. 用于 ServiceAccount的service-account-token, 2. 用于保存用户自定义保密信息的Opaque. Service Account中用到包含三个部分 : Token ca.crt namespace
kubectl get secret --all-namespaces kubectl describe secret default-token-fpmdh --all-namespaces
默认状况下, 每一个namespace都会有一个ServiceAccount, 若是Pod在建立时没有指定ServiceAccount, 就会使用Pod所需的namespace的ServiceAccount
认证过程, 只是确认通讯的双方是可信的, 能够互相通讯. 而鉴权是肯定请求方有哪些资源的权限.API Server目前支持如下几种受权策略(经过API Server启动参数 --authorization-mode 设置)
AlwaysDeny: 表示拒绝全部的请求, 通常用于测试
AlwaysAllow: 容许接受全部的请求, 通常用于测试
ABAC(Attribute-Based Access Control) : 基于属性的访问控制, 表示使用用户配置的受权规则对用户请求进行匹配和控制 (已经被淘汰, 不能及时更新)
Webbook: 经过调用外部REST服务对用户进行受权
RBAC(Role-Based Access Control)基于角色的访问控制, 在Kubernetes1.5引入, 称为默认标准. 相比其余方式, 拥有如下优点:
对集群中的资源和非资源均拥有完整的覆盖
整个RBAC彻底由几个API对象完成, 同其余API对象同样, 能够用kubectl或API进行操做
RBAC引入了4个新的顶级资源对象: Role 、ClusterRole 、RoleBinding 、ClusterRoleBinding 4种对象类型都可以经过kubectl与API操做
Kubernetes并不会提供用户管理, Kubernetes组件(kubectl、kube-proxy)或是其余定义的用户在向CA申请证书时, 须要提供一个证书请求文件
{ "CN": "admin", "hosts": [], "key": { "algo": "rsa", "size": 2048 }, "names":[ { "c": "CN", "ST": "HangZhou", "L": "XS", "O": "system:masters", "OU": "System" } ] }
API Server会把客户端证书的CN字段做为User, 把names.O字段做为Group
kubelet使用TLS Bootstraping认证时, API Server可使用 Bootstrap Tokens或者 Token Authentication file验证=token, 不管哪种, Kubernetes都会为token绑定一个默认的User和Group
Pod使用ServiceAccount认证时, service-account-token中的JWT会保存User信息, 有了用户信息,再建立一对角色/角色绑定(集群角色/集群角色绑定)资源对象,就能够完成权限绑定了
Role and ClusterRole
在RBAC API中, Role表示一组规则权限. 权限只会增长(累加权限) , 不存在一个资源一开始就有不少权限而经过RBAC对其进行减小的操做; Role能够定义在一个namespace中, 若是想要跨namespace则能够建立ClusterRole
kind: Role apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: namespace: default name: pod-reader rules: - apiGroups: [""] resources: ["pods"] verbs: ["get", "watch", "list"]
ClusterRole具备与Role相同的权限角色控制能力, 不一样的是ClusterRole是集群级别的, ClusterRole能够用于:
集群级别的资源控制(如: node访问权限)
非资源型endpoint是(如: /healthz 访问)
kind: ClusterRole apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: secret-reader rules: - apiGroups: [""] resources: ["secrets"] verbs: ["get", "watch", "list"]
RoleBinding and ClusterRoleBinding
RoleBinding能够将角色中定义的权限授予用户或用户组, RoleBinding包含一组权限列表(subjects) , 权限列表中包含有不一样形式的待受权权限资源类型(User, groups, or service accounts); RoleBinding一样包含对被Bind的Role引用; RoleBinding适用于某个命名空间内受权, 而ClusterRoleBinding适用于集群范围内的受权
将default命名空间的pod-readerRole授予jane用户, 此后jane用户在default命名空间中将具备pod-reader的权限
kind: RoleBinding apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: read-pods namespace: default subjects: - kind: User name: jane apiGroup: rbac.authorization.k8s.io roleRef: kind: Role name: pod-reader apiGroup: rbac.authorization.k8s.io
RoleBinding一样能够引用ClusterRole来对当前namespace内用户、用户组或ServiceAccount进行受权, 这种操做容许集群管理员在整个集群内定义一些通用的ClusterRole, 而后在不一样的namespace中使用RoleBinding来引用.
如 : 如下RoleBinding引用一个ClusterRole, 这个ClusterRole具备整个集群内对secrets的访问权限;可是其受权用户dave只能访问development空间中的secrets(由于RoleBinding定义在development命名空间)
kind: RoleBinding apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: read-secrets namespace: development subjects: - kind: User name: dave apiGroup: rbac.authorization.k8s.io roleRef: kind: ClusterRole name: secret-reader apiGroup: rbac.authorization.k8s.io
使用ClusterRoleBinding能够对整个集群中的全部的命名空间资源权限进行受权; 如下ClusterRoleBinding样例展现了受权manager组内全部用户在所有命名空间中对secrets进行访问
kind: ClusterRoleBinding apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: name: read-secrets-global subjects: - kind: Group name: manager roleRef: kind: ClusterRole name: secret-reader apiGroup: rbac.authorization.k8s.io
Resources
Kubernetes集群内一些资源通常以其名称字符串来表示, 这些字符串通常会在API的URL地址中出现; 同时某些资源也会包含子资源, 例如logs资源就属于Pods的子资源, API中URL样例以下
GET /api/v1/namespaces/{namespace}/pods/{name}/log
若是要在RBAC受权模型中控制这些子资源的访问权限, 能够经过 / 分隔符来实现, 如下是 一个定义Pods资源logs访问权限的Role定义样例
kind: Role apiVersion: rbac.authorization.k8s.io/v1beta1 metadata: namespace: default name: pod-and-pod-logs-reader rules: - apiGroups: [""] resources: ["pods", "pods/log"] verbs: ["get", "list"]
to Subjects
RoleBinding和ClusterRoleBinding能够将Role绑定到Subjects; Subjects能够是Groups、users或者Service Accounts
Subjects中Users使用字符串表示, 能够是一个普通的名字字符串, 如alice; 也能够是email格式的邮箱地址; 甚至是一组字符串形式的数字ID. 可是Users的前缀system:是系统保留的, 集群管理员应该确保普通用户不会使用这个前缀格式.
Groups书写格式与Users相同, 都为一个字符串, 而且没有特定的格式要求; 一样system:前缀为系统保留
建立一个用户只能管理dev空间:
{ "CN": "devuser", "hosts": [], "key": { "algo": "rsa", "size": 2048 }, "names":[ { "c": "CN", "ST": "HangZhou", "L": "HangZhou", "O": "k8s", "OU": "System" } ] } # 下载证书生成工具 wget https://pkg.cfssl.org/R1.2/cfssl_linux-amd64 mv cfssl_linux-amd64 /usr/local/bin/cfssl wget https://pkg.cfssl.org/R1.2/cfssljson_linux-amd64 mv cfssljson_linux-amd64 /usr/local/bin/cfssljson wget https://pkg.cfssl.org/R1.2/cfssl-certinfo_linux-amd64 mv cfssl-certinfo_linux-amd64 /usr/local/bin/cfssl-certinfo cfssl gencert -ca=ca.crt -ca-key=ca.key -profile=kubernetes /root/devuser-csr.json | cfssljson -bare devuser # 设置集群参数 export KUBE_APISERVER="https://172.16.11.207:6443" kubectl config set-cluster kubernetes \ --certificate-authority=/etc/kubernetes/pki/ca.crt \ --embed-certs=true \ --server=${KUBE_APISERVER} \ --kubeconfig=devuser.kubeconfig # 设置客户端认证参数 kubectl config set-credentials devuser \ --client-certificate=/etc/kubernetes/pki/devuser.pem --client-key=/etc/kubernetes/pki/devuser-key.pem --embed-certs=true \ --kubeconfig=devuser.kubeconfig #设置上下文参数 kubectl config set-context kubernetes --cluster=kubernetes \ --user=devuser \ --namespace=dev \ --kubeconfig=devuser.kubeconfig # 设置上下文 kubectl config use-context kubernetes --kubeconfig=devuser.kubeconfig cp -f ./devuser.kubeconfig /root/.kube/config kubectl create rolebindingdevuser-admin-binding --clusterrole=admin --user=devuser --namespace=dev
准入控制是API Server的插件集合, 经过添加不一样的插件, 实现额外的准入控制规则.甚至于API Server的一些主要的功能都须要经过Admission Controllers实现, 好比 : ServiceAccount
K8S1.14推荐列表
NamespaceLifecycle LimitRanger ServiceAccount DefaultStorageClass DefaultTolerationSeconds MutatingAdmissionWebbook ValidatingAdmissionWebbook ResourceQuota
列举一些插件功能:
namespaceLifecycle: 防止在不存在的namespace上建立对象, 方式删除系统预置的namespace, 删除namespace时, 连带删除全部的资源对象.
LimitRanger: 确保请求的资源不会超过资源所在的Namespace的LimitRange的限制
ServiceAccount: 实现了自动化添加ServiceAccount