Linux内存管理专题

时间 2019-11-09

标签 linux 内存管理专题栏目 Linux 繁體版

原文原文链接

Linux的内存管理涉及到的内容很是庞杂，并且与内核的方方面面耦合在一块儿，想要理解透彻很是困难。html

在开始学习以前进行了一些准备工做《如何展开Linux Memory Management学习？》，linux

1. 参考资料

遂决定以以下资料做为参考，进行Linux内存管理的研究：git

《奔跑吧 Linux内核》：以第2章为蓝本展开，这是目前能获取的紧跟当前内核发展(Linux 4.0)，而且讲的比较全面的一本资料。github

《Understanding the Linux Virtual Memory Manager》：简单说就是虽老但经典，基于(Linux 2.4/2.6)。做者是目前仍然活跃在Linux社区MM专家。算法

《wowotech Memory Management》：没有其余系列经典，也没有条理系列的介绍MM，可是仍然值得按考。shell

《tolimit Linux内存源码分析》：相对零散的介绍了内存相关分析文档express

《Linux Kernel v4.0》：固然必不可少的，是源码了。ubuntu

当逐渐深刻看到MMU相关代码时，读一下ARM架构关于MMU的规格书有助于理解。小程序

否则对于虚拟地址到物理地址的映射就会很虚无，这些资料包括《ARM Architecture Reference Manual ARMv7-A and ARMv7-R edition》的《Virtual Memory System Architecture》，以及相关MMU TRM。数据结构

2. Linux Memory Management框架图

整个内存管理从宏观上能够分为三大部分：用户空间、内核空间和相关硬件。

用户空间主要是libc对相关系统调用进行封装，对用户程序提供API，经常使用的有malloc、mmap、munmap、remap、madvise、mempolicy等等。

相关硬件包括MMU/TLB、L1/L2 Cache以及DDR RAM，具体到ARM架构须要对照MMU/L2 Cache以及RAM规格书。

内核空间就复杂多了，首先介绍初始化及初始化后的布局。

2.1 物理内存初始化从获取内存大小、初始化页表，再进行zone初始化，而后在zone中使用伙伴系统进行物理内存初始化；

2.2 页表的映射过程讲述了ARM32和ARM64两种架构下的页表映射，如何从虚拟地址由MMU转化成物理页面地址的；

2.3 内核内存的布局图在内存被初始化以后，内核的内存布局基本上就肯定了，ARM32和ARM64下布局有很大区别。在malloc一节brk中介绍了用户空间的布局。

2.1~2.3是内存的一个静态状态，在有了这些基础以后，2.4~2.9按照从低层到上层的逐个介绍了。

2.4 分配物理页面介绍了基于伙伴系统的页分配和释放；

2.5 slab分配器基于伙伴系统，slab分配更小内存块；以及基于slab的kmalloc；

2.6 vmalloc和kmalloc区别在于v，即在VMALLOC区域分配；

2.7 VMA即Virtual Memory Area，是进程内存管理的核心；

2.8 malloc和2.9 mmap都基于VMA，malloc/free用于分配/释放一块内存；mmap/munmap用于匿名/文件映射到用户空间。以及mmap(补充)。

因为malloc/mmap分配内存并非当即分配，只是在用到的时候才会触发2.10 缺页中断处理。

在缺页但页不足的状况下，就须要进行一些操做调整内存，这些操做的基础是2.11 page引用计数，还有页面的2.12 反向映射RMAP技术。

在内存不足状况下触发kswapd2.13 回收页面，其中匿名页面有着特殊的2.14 匿名页面生命周期。

在kswapd回收依然没法知足内存分配，就须要对内存进行2.16 内存规整，它依赖的技术是2.15 页面迁移。

因为内存中存在一些内容彻底同样的页面，使用2.17 KSM技术进行合并，同时利用COW技术，在须要时从新分配。

还介绍了2.18 Dirty COW内存漏洞，而后对内存管理数据结构和API进行了总结2.19 总结内存管理数据结构和API。

最后2.20 最新更新和展望对新技术进行了介绍。

除了以上技术，还有以下内存技术：

swap计数把匿名页面写入SWAP分区从而释放出空闲页面
内存压缩技术zram(a compressed RAM based swap device)
zswap技术是zram和swap的一个综合，首先将待换出页面进行压缩，存储到系统RAM动态分配的内存池中；达到必定阈值后再写入实际交换设备。
在内存极端不足状况下使用21 OOM(Out-Of-Memory)来杀死不重要进程获取更多内存的技术
基于cgroup的Memory资源控制
解决多媒体对大量连续内存需求的CMA(Contiguous Memory Allocator)技术
slub分配器
memory hotplug内存热插拔支持动态更换内存物理设备

==============================================================================================================================

在对内存相关技术了解事后，就是如何运用的问题了？

一方面是对内存问题进行定位；另外一方面是对内存行为施加影响，进行优化。

22 内存检测技术对Linux内存常见问题及其定位方法和工具(slub_debug/kmemleak/kasan)进行了讲解。

23 一个内存Oops解析以一个内存Oops为例，介绍了内存相关异常分析。

内存sysfs节点和工具介绍了linux内存管理相关sysfs节点，以及工具；借助这些能够对内存进行优化。

扩展阅读：

关于zram、zswap、zcache的区别与各自优缺点《zram vs zswap vs zcache Ultimate guide: when to use which one》

Linux内存管理框架图

3. 代码和测试环境搭建

3.1 QEMU

安装QEMU以及相关编译工具

sudo apt-get install qemu libncurses5-dev gcc-arm-linux-gnueabi build-essential

3.2 Busybox 1.24

下载Busybox 1.24代码：

git clone https://github.com/arnoldlu/busybox.git -b 1_24_stable

编译Busybox：

export ARCH=arm
export CROSS_COMPILE=arm-linux-gnueabi- #make menuconfig #P684，进行配置 make -j4 install

配置initramfs：

sudo cp -r running_kernel_initramfs/* _install/
sudo chmod +x _install/etc/init.d/rcS
cd _install
mkdir mnt
mkdir dev
cd dev
sudo mknod console c 5 1
sudo mknod null c 1 3

3.3 Kernel 4.0

下载Linux Kernel 4.0代码：

git clone https://github.com/arnoldlu/linux.git -b running_kernel_4.0

编译Linux Kernel：

export ARCH=arm
export CROSS_COMPILE=arm-linux-gnueabi-
make vexpress_defconfig #P685进行配置 make bzImage -j4 ARCH=arm CROSS_COMPILE=arm-linux-gnueabi- make dtbs

3.4 运行内核

#Run Kernel+Busybox in QEMU
qemu-system-arm -M vexpress-a9 -smp 4 -m 1024M -kernel arch/arm/boot/zImage -append "rdinit=/linuxrc console=ttyAMA0 loglevel=8" -dtb arch/arm/boot/dts/vexpress-v2p-ca9.dtb -nographic

至此，已经有一个完整的环境，提供shell命令。

4. 思考问答

在系统启动时，ARM Linux内核如何知道系统中有多大的内存空间？
在32bit Linux内核中，用户空间和内核空间的比例一般是3:1，能够修改为2:2吗？
物理内存页面如何添加到伙伴系统中，是一页一页添加，仍是以2的几回幂来加入呢？
内核的一级页表存放在什么地方？二级页表又存放在什么地方？
用户进程的一级页表存放在什么地方？二级页表呢？
在ARM32系统中，页表是如何映射的？在ARM64系统中，页表又是如何映射的？
请简述Linux内核在理想状况下页面分配器(page allocator)是如何分配出连续物理页面的。
在页面分配器中，如何从分配掩码(gfp_mask)中肯定能够从哪些zone中分配内存？
页面分配器是按照什么方向来扫描zone的？
为用户进程分配物理内存，分配掩码应该选用GFP_KERNEL，仍是GFP_HIGHUSER_MOVABLE呢？
slab分配器是如何分配和释放小块内存的？
slab分配器中有一个着色的概念(cache color)，着色有什么做用？
slab分配其中的slab对象有没有根据Per-CPU作一些优化？
slab增加并致使大量不用的空闲对象，该如何解决？
请问kmalloc、vmalloc和malloc之间有什么区别以及实现上的差别？
使用用户态的API函数malloc()分配内存时，会立刻为其分配物理内存吗？
假设不考虑libc的因素，malloc分配100Byte，那么实际上内核是为其分配100Byte吗？
假设两个用户进程打印的malloc()分配的虚拟地址是同样的，那么在内核中这两块虚拟内存是否打架了呢？
vm_normal_page()函数返回的是什么样页面的struct page数据结构？为何内存管理代码中须要这个函数？
请简述get_user_page()函数的做用和实现流程？
请简述follow_page()函数的做用和实现流程？
请简述私有映射和共享映射的区别。
为何第二次调用mmap时，Linux内核没有捕捉到地址重叠并返回失败呢？
struct page数据结构中的_count和_mapcount有什么区别？
匿名页面和page cache页面有什么区别？
struct page数据结构中有一个锁，请问trylock_page()和lock_page()有什么区别？
在Linux 2.4.x内核中，如何从一个page找到全部映射该页面的VMA？反响映射能够带来哪些便利？
阅读Linux 4.0内核RMAP机制的代码，画出父子进程之间VMA、AVC、anon_vma和page等数据结构之间的关系图。
在Linux 2.6.34中，RMAP机制采用了新的实现，在Linux 2.6.33和以前的版本中称为旧版本RMAP机制。那么在旧版本RMAP机制中，若是父进程有1000个子进程，每一个子进程都有一个VMA，这个VMA里面有1000个匿名页面，当全部的子进程的VMA同时发生写复制时会是什么状况呢？
当page加入lru链表中，被其余线程释放了这个page，那么lru链表如何知道这个page已经被释放了。
kswapd内核线程什么时候会被唤醒？
LRU链表如何知道page的活动频繁程度？
kswapd按照什么原则来换出页面？
kswapd按照什么方向来扫描zone？
kswapd以什么标准来退出扫描LRU？
手持设备例如Android系统，没有swap分区或者swap文件，kswapd会扫描匿名页面LRU吗？
swappiness的含义是什么？kswapd如何计算匿名页面和page cache之间的扫描比重？
当系统充斥着大量只访问一次的文件访问(use-one streaming IO)时，kswapd如何来规避这种风暴？
在回收page cache时，对于dirty的page cache，kswapd会立刻回写吗？
内核有哪些页面会被kswapd写回交换分区？
ARM32 Linux如何模拟这个Linux版本的L_PTE_YOUNG比特位呢？
如何理解Refault Distance算法？
请简述匿名页面的生命周期。在什么状况下会产生匿名页面？在什么条件下会释放匿名页面？
KSM是基于什么原理来合并页面的？
在KSM机制里，合并过程当中把page设置成写保护的函数write_protect_page()有这样一个判断：。这个判断的依据是什么？
若是多个VMA的虚拟页面同时映射了同一个匿名页面，那么此时page->index应该等于多少？
为何Dirty COW小程序能够修改一个只读文件的内容？
在Dirty COW内存漏洞中，若是Diryt COW程序没有madviseThread线程，即只有procselfmemThread线程，可否修改foo文件的内容呢？
假设在内核空间获取了某个文件对应的page cache页面的struct page数据结构，而对应的VMA属性是只读，那么内核空间是否能够成功修改该文件呢？
若是用户进程使用只读属性(PROT_READ)来mmap映射一个文件到用户空间，而后使用memcpy来写这段内存空间，会是什么样的状况？
请画出内存管理中经常使用的数据结构的关系图，如mm_struct、vma、vaddr、page、pfn、pte、zone、paddr和pg_data等，并思考以下转换关系。
请画出在最糟糕的状况下分配若干个连续物理页面的流程图。
在Android中新添加了LMK(Low Memory Killer)，请描述LMK和OOM Killer之间的关系。
请描述一致性DMA映射dma_alloc_coherent()函数在AEM中是如何管理cache一致性的？
请描述流式DMA映射dma_map_single()函数在ARM中是如何管理cache一致性的？
为何在Linux 4.8内核中要把基于zone的LRU链表机制迁移到基于Node呢？