Linux 三剑客之 awk 实战详解教程

咱们知道 Linux 三剑客，它们分别是：grep、sed、awk。在前边已经讲过 grep 和 sed，没看过的同窗能够直接点击阅读，今天要分享的是更为强大的 awk。

sed 能够实现非交互式的字符串替换，grep 可以实现有效的过滤功能。与二者相比，awk 是一款强大的文本分析工具，在对数据分析并生成报告时，显得尤其强悍。

awk 强大的功能，是通常 Linux 命令没法比拟的。在本文中，我不会告诉你 awk 也是一种编程语言，省得会吓到你。咱们只需把它当作 Linux 下一款强大的文本分析工具便可。

这篇文章，我仍然秉持着 实用、实践 原则，提供大量的示例，但不会面面俱到。经过本文能够帮助你，快速将 awk 运用起来，这些东西足够应付工做中大多数应用场景。

场景

学习具体使用前，先来看下 awk 能干些什么事情：

1. 可以将给定的文本内容，按照咱们指望的格式输出显示，打印成报表。

2. 分析处理系统日志，快速地分析挖掘咱们关心的数据，并生成统计信息；

3. 方便地用来统计数据，好比网站的访问量，访问的 IP 量等；

4. 经过各类工具的组合，快速地汇总分析系统的运行信息，让你对系统的运行了如指掌；

5. 强大的脚本语言表达能力，支持循环、条件、数组等语法，助你分析更加复杂的数据；

……

固然 awk 不只能作这些事情，当你将它的用法融汇贯通时，能够为所欲为的按照你的意愿，来进行高效的数据分析和统计。

不过咱们须要知道，awk 不是万能的，它比较擅长处理格式化的文本，好比 日志、csv 格式数据等；

原理

咱们先来简单了解 awk 基本工做原理，经过下边的图文讲述，但愿你能了解 awk 究竟是如何工做的。

awk 基本命令格式

结合下图来详细说明 awk 工做原理

• 首先，执行关键字 BEGIN 标识的 {} 中的命令；
• 完成 BEGIN 大括号中命令的后，开始执行 body 命令；
• 逐行读取数据，默认读到 \n 分割的内容为一条 记录，其实就是行的概念；
• 将记录按照指定的分隔符划分为 字段，其实就是列的概念；
• 循环执行 body 块中的命令，每读取一行，执行一次 body，最终完成 body 执行；
• 最后，执行 END 命令，一般会在 END 中输出最后的结果；

awk 是输入驱动的，有多少输入行，就会执行多少次 body 命令。

咱们在下边的示例学习中，要时刻记着：记录 (Record) 就是行，字段 (Field) 就是列，BEGIN 是预处理阶段，body 是 awk 真正工做的阶段，END 是最后处理阶段。

实战 - 入门

从下边内容开始，咱们直接进入到实战。为了方便举例，我先把以下信息保存到 file.txt

好了，咱们先来一个最简单最经常使用的 awk 示例，输出第 一、四、8 列：

大括号里边的就是 awk 语句，只能被单引号包含，其中，$1..$N表示第几列，$0 表示整个行内容

再来看下 awk 比较实用的功能 格式化输出。和 C 语言的 printf 格式输出是一毛同样，我我的特别喜欢这种格式化方式，而不是 C++ 中的流的方式。

%s 表示字符串占位符，-4表示列宽度为 4，且左对齐，咱们还能够根据须要，列出更复杂的格式来，这里先不详细举例了。

实战 - 进阶

（一）过滤记录

有些数据可能不是你想要的，能够根据须要进行过滤

上边的过滤条件为，第 3 列为 root 且第 6 列为 10 的行，才会被输出。

awk 支持各类比较运算符号 !=、>、<、>=、<=，其中 $0 表示整行的全部内容。

（二）内置变量

awk 内置了一些变量，更方便咱们对数据的处理

过滤第 3 列为 root 用户，以及第 2 行内容，且打印时输出行号。NR 表示当前第几行，NF表示当前行有几列。

（三）指定分隔符

咱们的数据，不老是以空格为分隔符，咱们能够经过 FS 变量指定分隔符。

咱们指定分隔符为 2019，这样就将行内容分割为了两部分，将 2019 替换成了 *

上边的命令也能够经过 -F 选项指定分割符

若是你须要指定多个分隔符，能够这样作 -F '[;:]'。相信聪明的你，必定可以理解并融会贯通的。

一样，awk 能够指定输出时的分隔符，经过 OFS 变量来设置

输出时，各字段用 OFS 指定的符号进行了分隔。

实战 - 高级

（一）条件匹配

列出 root 用户的全部文件，以及第一行文件

上边匹配第三列中包含 root 的行，~ 其实就是正则表达式的匹配。

一样，awk 能够像 grep 同样匹配某一行，就像这样

另外，能够这样 /Aug|Dec/ 匹配多个关键词。

模式取反可使用 ! 符号

（二）拆分文件

咱们来作一件有意思的事情，能够将文本信息拆分为多个文件，下边命令按照月份（第5列）将文件信息拆分为多个文件

awk 支持重定向符号 >，直接将每行内容重定向到月份命名的文件了，固然你也能够把指定的列输出到文件

（三）if 语句

复杂的条件判断，可使用 awk 的 if 语句，awk 的强大正由于它是个脚本解释器，拥有通常脚本语言的编程能力，下边示例经过稍微复杂的条件进行拆分文件

要注意，if 语句是在大括号里边的。

（四）统计

统计当前目录下，全部 *.c、*.h 文件所占用空间大小总和

第 5 列表示文件大小，每读取一行就会将该文件大小计算到 sum 变量中，在最后 END 阶段打印出 sum，也就是全部文件的大小总和。

再来看一个例子，统计每一个用户的进程占用了多少内存，注意取值的是 RSS 那一列

这里用到了 数组 和 for 循环，值得一提的是，awk 的数组能够理解为字典或 Map，key 能够是数值和字符串，这种数据类型在平时很经常使用。

（五）字符串

经过下边简单示例，展现 awk 对字符串操做的支持

awk 内置支持一系列的字符串函数，length 计算字符串长度，toupper 函数转换字符串为大写。

实战 - 技巧

为了从总体上理解 awk 工做机制，咱们再来看一个综合的示例，假设有一个学生成绩单：

因为此示例程序稍显复杂，在命令行上不易读，另外呢，也想经过此案例介绍另一种 awk 的执行方式，咱们的 awk 脚本以下：

执行 awk 结果以下

咱们能够将复杂的 awk 语句写入脚本文件 cal.awk，而后经过 -f 选项指定从脚本文件执行。

• 在 BEGIN 阶段，咱们初始化了相关变量，并打印了表头的格式
• 在 body 阶段，咱们读取每一行数据，计算该学科和该同窗的总成绩
• 在 END 阶段，咱们先打印了表尾的格式，并打印总成绩，以及计算了平均值

这个简单示例，完整的体现了 awk 的工做机制和原理，但愿经过此示例可以帮你真正理解 awk 是如何工做的。

总结概括

经过上述的示例，咱们学习到了 awk 的工做原理，下边咱们来总结下几个概念和经常使用的知识点。

（一）内置变量

1. 每一行内容记录，叫作记录，英文名称 Record

2. 每行中经过分隔符隔开的每一列，叫作字段，英文名称 Field

明确这几个概念后，咱们来总结几个重要的内置变量：

• NR：表示当前的行数；
• NF：表示当前的列数；
• RS：行分隔符，默认是换行；
• FS：列分隔符，默认是空格和制表符；
• OFS：输出列分隔符，用于打印时分割字段，默认为空格
• ORS：输出行分隔符，用于打印时分割记录，默认为换行符

（二）输出格式

awk 提供 printf 函数进行格式化输出功能，具体的使用方式和 C 语法基本一致。

基本用法

经常使用的格式化方式：

• %d 十进制有符号整数
• %u 十进制无符号整数
• %f 浮点数
• %s 字符串
• %c 单个字符
• %e 指数形式的浮点数
• %x %X 无符号以十六进制表示的整数
• %0 无符号以八进制表示的整数
• %g 自动选择合适的表示法
• \n 换行符
• \t Tab符

（三）编程语句

awk 不只是一个 Linux 命令行工具，它实际上是一门脚本语言，支持程序设计语言全部的控制结构，它支持：

• 条件语句
• 循环语句
• 数组
• 函数

（四）经常使用函数

awk 内置了大量的有用函数功能，也支持自定义函数，容许你编写本身的函数来扩展内置函数。

这里只简单罗列一些比较经常使用的字符串函数：

• index(s, t) 返回子串 t 在 s 中的位置
• length(s) 返回字符串 s 的长度
• split(s, a, sep) 分割字符串，并将分割后的各字段存放在数组 a 中
• substr(s, p, n) 根据参数，返回子串
• tolower(s) 将字符串转换为小写
• toupper(s) 将字符串转换为大写

这里只简单总结一些经常使用的字符串功能函数，具体使用方法，还须要你参照前边的示例程序，触类旁通，运用到实际问题中。

本次分享就到这里了，谢谢你们的阅读，我是肖邦。关注个人公众号「编程修养」，大量的干货文章等你来！

公众号后台回复「1024」有惊喜！

推荐阅读：

• 写给 Linux 初学者的一封信
• 全网最详尽的负载均衡原理图解
• 上古神器 sed 教程详解，小白也能看的懂
• Linux 三剑客之 grep 教程详解
• Linux 文件搜索神器 find 实战详解，建议收藏！
• Linux 网络分析必备技能：tcpdump 实战详解