Linux生产环境上，最经常使用的一套“Sed“技巧

最有用系列：

《Linux生产环境上，最经常使用的一套“vim“技巧》

《Linux生产环境上，最经常使用的一套“Sed“技巧》

《Linux生产环境上，最经常使用的一套“AWK“技巧》

《"Sed" 高级功能：我这小脑瓜都快绕晕了》

sed命令应用普遍，使用简单，是快速文本处理的利器。它其实没多少技巧，背诵、使用是最合适的学习渠道，属于硬 技能。但它又很复杂，由于高级功能太多。本篇不去关注sed的高级功能，仅对经常使用的一些操做，进行说明。

随着使用，你会发现它和vim的一些理念是想通的，正则表达式的语法也基本上同样，并无多少学习成本。从我的视野和工做效率上来看，sed命令都是程序员必须掌握的一个重要工具。

这里有篇更高级的：《"Sed" 高级功能：你须要一我的肉状态机》

那些说能够现场google用法的，大多习惯将文本拷贝到excel里，慢慢磨洋工，遇到大批量文件更是手忙脚乱。不是一家人不进一家门，本文不是为你写的。

一个简单的入门

如图，一个简单的sed命令包含三个主要部分： 参数、 范围、 操做。要操做的文件，能够直接挂在命令行的最后。除了命令行，sed也能够经过-f参数指定一个sed脚本，这个属于高级用法，不作过多描述。

有些示例命令我会重复屡次，聪明如你必定能发现其中规律，有时连解释都用不着。

参数

-n 这个参数是--quiet或者--silent的意思。代表忽略执行过程的输出，只输出咱们的结果便可。

咱们经常使用的还有另一个参数 ：-i。

使用此参数后，全部改动将在原文件上执行。你的输出将覆盖原文件。很是危险，必定要注意。

范围

1,4 表示找到文件中1,2,3,4行的内容。 这个范围的指定颇有灵性，请看如下示例（请自行替换图中的范围部分）。

5 选择第5行。

2,5 选择2到5行，共4行。

1~2 选择奇数行。

2~2 选择偶数行。

2,+3 和2,5的效果是同样的，共4行。

2,$ 从第二行到文件结尾。

范围的选择还可使用正则匹配。请看下面示例。

/sys/,+3 选择出现sys字样的行，以及后面的三行。

/^sys/,/mem/ 选择以sys开头的行，和出现mem字样行之间的数据。

为了直观，下面的命令一一对应上面的介绍，范围和操做之间是能够有空格的。

sed -n '5p' file
sed -n '2,5 p' file
sed -n '1~2 p' file
sed -n '2~2 p' file
sed -n '2,+3p' file
sed -n '2,$ p' file

sed -n '/sys/,+3 p' file
sed -n '/^sys/,/mem/p' file
复制代码

操做

最经常使用的操做就是p，意思就是打印。好比，如下两个命令就是等同的：

cat file 
sed -n 'p' file
复制代码

除了打印，还有如下操做，咱们来讲经常使用的。

p 对匹配内容进行打印。

d 对匹配内容进行删除。这个时候就要去掉-n参数了，想一想为何。

w 将匹配内容写入到其余地方。

a,i,c等操做虽基本但使用少，不作介绍。咱们依然拿一些命令来讲明。

sed -n '2,5 p' file
sed    '2,5 d' file
sed -n '2,5 w output.txt' file
复制代码

替换模式

以上是sed命令的经常使用匹配模式，但它还有一个强大的替换模式，意思就是查找替换其中的某些值，并输出结果。使用替换模式不多使用-n参数。

替换模式的参数有点多，但第一部分和第五部分都是能够省略的。替换后会将 整个文本输出出来。

前半部分用来匹配一些范围，然后半部分执行替换的动做。

范围

这个范围和上面的范围语法相似。看下面的例子。

/sys/,+3 选择出现sys字样的行，以及后面的三行。

/^sys/,/mem/ 选择以sys开头的行，和出现mem字样行之间的数据。

具体命令为：

sed '/sys/,+3 s/a/b/g' file
sed '/^sys/,/mem/s/a/b/g' file 
复制代码

命令

这里的命令是指s。也就是substitute的意思。

查找匹配

查找部分会找到要被替换的字符串。这部分能够接受纯粹的字符串，也能够接受正则表达式。看下面的例子。

a 查找范围行中的字符串a。

[a,b,c] 从范围行里查找字符串a或者b或者c。

命令相似：

sed 's/a/b/g' file
sed 's/[a,b,c]/<&>/g' file
#这个命令咱们下面解释
复制代码

替换

是时候把找出的字符串给替换掉了。本部分的内容将替换查找匹配部分找到的内容。

惋惜的是，这部分不能使用正则。经常使用的就是精确替换。好比把a替换成b。

但也有高级功能。和java或者python的正则api相似，sed的替换一样有Matched Pattern的含义，一样能够获得Group，不深究。经常使用的替位符，就是&。

**&**号，再重复一遍。当它用在替换字符串中的时候，表明的是原始的查找匹配数据。

[&] 代表将查找到的数据使用[]包围起来。

"&" 代表将查找的数据使用""包围起来。

下面这条命令，将会把文件中的每一行，使用引号包围起来。

sed 's/.*/"&"/' file
复制代码

flag 参数

这些参数能够单个使用，也可使用多个，仅介绍最经常使用的。

g 默认只匹配行中第一次出现的内容，加上g，就能够全文替换了。经常使用。

p 当使用了-n参数，p将仅输出匹配行内容。

w 和上面的w模式相似，可是它仅仅输出有变换的行。

i 这个参数比较重要，表示忽略大小写。

e 表示将输出的每一行，执行一个命令。不建议使用，可使用xargs配合完成这种功能。

看两个命令的语法：

sed -n 's/a/b/gipw output.txt' file
sed 's/^/ls -la/e' file
复制代码

好玩

因为正则的关系，不少字符须要转义。你会在脚本里作些不少\\，\*之类的处理。你可使用|^@!四个字符来替换\。 好比，下面五个命令是同样的。

sed '/aaa/s/\/etc/\/usr/g' file
sed '/aaa/s@/etc@/usr@g' file
sed '/aaa/s^/etc^/usr^g' file
sed '/aaa/s|/etc|/usr|g' file
sed '/aaa/s!/etc!/usr!g' file
复制代码

注意：前半部分的范围是不能使用这种方式的。我习惯使用符号@。

其余

正则表达式

能够看到，正则表达式在命令行中无处不在。如下，紧作简要说明。

^ 行首

$ 行尾

. 单个字符

* 0个或者多个匹配

+ 1个或者多个匹配

? 0个或者1个匹配

{m} 前面的匹配重复m次

{m,n} 前面的匹配重复m到n次

\ 转义字符

[0-9] 匹配括号中的任何一个字符,or的做用 | or，或者

\b 匹配一个单词。好比\blucky\b 只匹配单词lucky

参数i

上面已经简单介绍了参数i，它的做用是让操做在原文件执行。不管你执行了啥，原始文件都将会被覆盖。这是很是危险的。 经过加入一个参数，能够将原文件作个备份。

sed -i.bak 's/a/b/' file
复制代码

以上命令会对原file文件生效，并生成一个file.bak文件。强烈建议使用i参数同时指定bak文件。

表演一下

咱们经过两个命令，来稍微看下sed和其余命令组合起来的威力。

输出长度不小于50个字符的行

sed -n '/^.{50}/p'
复制代码

统计文件中有每一个单词出现了多少次

sed 's/ /\n/g' file | sort | uniq -c
复制代码

查找目录中的py文件，删掉全部行级注释

find ./ -name "*.py" | xargs sed  -i.bak '/^[ ]*#/d'
复制代码

查看第5-7行和10-13行

sed -n -e '5,7p' -e '10,13p' file
复制代码

仅输出ip地址

ip route show | sed -n '/src/p' | sed -e 's/ */ /g' | cut -d' ' -f9
复制代码

End

本文配合《Linux生产环境上，最经常使用的一套“vim“技巧》 一文，查看更佳，你会发现不少类似的东西，这和KISS原则是密不可分的。 sed还有一个精华就是x(Exchange)命令，但也属于高级功能。有些你可能在不少Makefile里见过了。sed甚至还能够写推箱子游戏，虽然代码很酷，但，脑回路彻底不够用啊。

https://github.com/aureliojargas/sokoban.sed
复制代码

---

扩展阅读：

Linux之《荒岛余生》（一）准备篇

Linux之《荒岛余生》（二）CPU篇

Linux之《荒岛余生》（三）内存篇

Linux之《荒岛余生》（四）I/O篇

Linux之《荒岛余生》（五）网络篇