利用LXCFS提高容器资源可见性

1.技术背景;

    Linuxs利用Cgroup实现了对容器的资源限制，但在容器内部依然缺省挂载了宿主机上的procfs的/proc目录，其包含如：meminfo, cpuinfo，stat， uptime等资源信息。一些监控工具如free/top或遗留应用还依赖上述文件内容获取资源配置和使用状况。当它们在容器中运行时，就会把宿主机的资源状态读取出来，引发错误和不便。

2.LXCFS简介 

  CNCF社区中常见的作法是利用 lxcfs来提供容器中的资源可见性。lxcfs 是一个开源的FUSE（用户态文件系统）实现来支持LXC容器，它也能够支持Docker容器。

 githup网站:https://github.com/lxc/lxcfs

 LXCFS经过用户态文件系统，在容器中提供下列 procfs 的文件。

/proc/cpuinfo
/proc/diskstats
/proc/meminfo
/proc/stat
/proc/swaps
/proc/uptime

 

3.LXCFS工做示意图:

   

好比，把宿主机的 /var/lib/lxcfs/proc/memoinfo 文件挂载到Docker容器的/proc/meminfo位置后。容器中进程读取相应文件内容时，LXCFS的FUSE实现会从容器对应的Cgroup中读取正确的内存限制。从而使得应用得到正确的资源约束设定

4.Docker 实战提高容器资源可见性;

注：

本文采用CentOS 7.2 做为测试环境，并已经开启FUSE模块支持。

fuse用途:

传统的文件系统是操做系统的一部分，放在操做系统内核里面实现。Fuse(Filesystem in Userspace), 一个用户空间文件系统框架，提供给咱们一组用于实现一个文件系统的API，使咱们能够在用户态实现自已的文件系统。

Docker for Mac/Minikube等开发环境因为采用高度剪裁过的操做系统，没法支持FUSE，并运行LXCFS进行测试。
安装 lxcfs 的RPM包

4.1.环境信息:

系统版本	内核版本	软件依赖	软件版本	备注说明
CentOS Linux 7.2.151	3.10.0-1062.4.1.el7.x86_64	fuse-libs fuse fuse-devel	fuse-devel-2.9.2-7.el7.x86_64 fuse-libs-2.9.2-7.el7.x86_64 fuse-2.9.2-7.el7.x86_64	用户态实现自已的文件系统。
		docker	docker-1.13.1-102.git7f2769b.el7.centos.x86_64	docker服务
		lxcfs	lxcfs-3.1.2-0.2.el7.x86_64.rpm	LXCFS主程序软件包

4.2 安装依赖获取软件包并启动服务

yum -y install fuse-devel fuse docker lxc-templates 
wget https://copr-be.cloud.fedoraproject.org/results/ganto/lxc3/epel-7-x86_64/01041891-lxcfs/lxcfs-3.1.2-0.2.el7.x86_64.rpm
rpm -ivh lxcfs-3.1.2-0.2.el7.x86_64.rpm
systemctl start docker
lxcfs /var/lib/lxcfs &

4.3 运行docker 测试镜像

docker run -itd -m 256m \    
-v /var/lib/lxcfs/proc/cpuinfo:/proc/cpuinfo:rw \
-v /var/lib/lxcfs/proc/diskstats:/proc/diskstats:rw \
-v /var/lib/lxcfs/proc/meminfo:/proc/meminfo:rw \
-v /var/lib/lxcfs/proc/stat:/proc/stat:rw \
-v /var/lib/lxcfs/proc/swaps:/proc/swaps:rw \   
-v /var/lib/lxcfs/proc/uptime:/proc/uptime:rw  \  
ubuntu:16.04 /bin/bash

注意:

container_linux.go:247: starting container process caused "process_linux.go:258: applying cgroup configuration for process caused \"Cannot set property TasksAccounting, or unknown property.\""/usr/bin/docker-current: Error response from daemon: oci runtime error: container_linux.go:247: starting container process caused "process_linux.go:258: applying cgroup configuration for process caused \"Cannot set property TasksAccounting, or unknown property.\"".

解决：主要缘由仍是centos系统版本兼容性问题，若是将系统作更新升级

yum update 




4.4 查询实验结果;

(1).设置过lxcfs 容器和设置lxcfs 对比  内存对比

(2).未进行设置容器;

(1).设置过lxcfs 容器和设置lxcfs 对比  uptime 对比;




5.Kubernetes 实战提高容器资源可见性;

一些同窗问过如何在Kubernetes集群环境中使用lxcfs，咱们将给你们一个示例方法供参考。

首先咱们要在集群节点上安装并启动lxcfs，咱们将用Kubernetes的方式，用利用容器和DaemonSet方式来运行 lxcfs FUSE文件系统。

经过Github上得到

git clone https://github.com/denverdino/lxcfs-initializer
cd lxcfs-initializer