Linux运维：cut命令、sort命令、uniq命令

cut命令

含义
正如cut的中文意思，cut的工做就是“剪”，具体来讲是在文件负责剪切数据用的，它以每一行为一个处理对象，与sed的机制是同样的。

剪切依据
cut命令主要是接受三个定位方法：

• 第一，字节（bytes），用选项-b
• 第二，字符（characters），用选项-c
• 第三，域（fields），用选项-f

语法格式

cut  [-bn] [file] 或 cut [-c] [file]  或  cut [-df] [file]

使用说明
cut命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段写至标准输出。
若是不指定 File 参数，cut 命令将读取标准输入。必须指定 -b、-c 或 -f 标志之一。
主要参数

• -b ：以字节为单位进行分割。这些字节位置将忽略多字节字符边界，除非也指定了 -n 标志。
• -c ：以字符为单位进行分割。
• -d ：自定义分隔符，默认为制表符。
• -f ：与-d一块儿使用，指定显示哪一个区域。
• -n ：取消分割多字节字符。仅和 -b 标志一块儿使用。若是字符的最后一个字节落在由 -b 标志的 List 参数指示的
  范围以内，该字符将被写出；不然，该字符将被排除。

经常使用示例：
“字节”定位中，提取第1到第5和第10个字节，-b支持形如1-5的写法，并且多个定位之间用逗号隔开
注意，cut命令若是使用了-b选项，那么执行此命令时，cut会先把-b后面全部的定位进行从小到大排序，而后再提取。

示例1：提取第1到第5字节和第10个字节的内容

[root@moli_linux1 ~]$ echo "abcde12345" | cut -b 1-5,10
abcde5

示例2：-3表示从第1个字节到第3个字节，3-表示从第3个字节到行尾

[root@moli_linux1 ~]$ echo "abcde54321" | cut -b -3
abc
[root@moli_linux1 ~]$ echo "abcde54321" | cut -b 3-
cde54321

示例3：多字节字符处理
1个空格算1个字节，而1个汉字算3个字节，所以汉字是多字节字符.遇到多字节字符可使用-c选项，也可使用-b选项，不过要结合-n选项，-n选项告诉cut命令不要将多字节字符拆开。

[root@moli_linux1 ~]$ cat cut_test2.txt 
星期一aa
星期二bb
星期三cc
[root@moli_linux1 ~]$ cut -b 3 cut_test2.txt # 由于没加-n选项，所以将"星"字给拆分了..
 
 
 
[root@moli_linux1 ~]$ cut -nb 3 cut_test2.txt # 切割第3个字符
一
二
三
[root@moli_linux1 ~]$ cut -c 3 cut_test2.txt 
一
二
三
[root@moli_linux1 ~]$ cut -c 4,5 cut_test2.txt 
aa
bb
cc
[root@moli_linux1 ~]$ cut -nb 4,5 cut_test2.txt 
aa
bb
cc

示例4：对于非固定格式的文档，使用-f选项来定义域来切割文件

[root@moli_linux1 ~]$ head -n 5 /etc/passwd > cut_test.txt
[root@moli_linux1 ~]$ cat cut_test.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
[root@moli_linux1 ~]$ cut -d ":" -f 1-3,5 cut_test.txt 
root:x:0:root
bin:x:1:bin
daemon:x:2:daemon
adm:x:3:adm
lp:x:4:lp

上面的cut -d ":" -f 1-3,5 cut_test.txt 中，-d选项指定:为分割符，每一个分隔符做为一个域，-f后面的数字指定切割哪一个域，这里1-3,5表示截取第1,2,3和第5个域。

sort命令

说明
sort命令将文件进行排序，并将排序结果标准输出。sort命令既能够从特定的文件，也能够从stdin中获取输入。

工做原理
sort将文件的每一行做为一个单位，相互比较，比较原则是从首字符向后，依次按ASCII码值进行比较，最后将他们按升序输出。

语法

sort(选项)(参数)

经常使用选项

• -u:unique 惟一，排序而且排除重复项
• -n: number 按照数字进行排序，默认数字会被看成字符串进行比较，字符或者其余特殊符号会被当作0排在数字前面
• -r:反向排序
• -b:忽略每行前面开始出的空格字符

示例1：-u选项

[root@moli_linux1 ~]$ cat sort_test.txt 
hello
world
>>>
hello
12345
shell
???
 have a space
[root@moli_linux1 ~]$ sort -u sort_test.txt # 去除重复hello并排序
>>>
???
12345
 have a space
hello
shell
world

示例2：-n选项。按照数字进行排序，默认数字会被看成字符串进行比较，字符或者其余特殊符号会被当作0排在数字前面

[root@moli_linux1 ~]$ cat sort_test2.txt 
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -n sort_test2.txt 
???
hello
123
123
124
234
987

示例3：反向排序-r

[root@moli_linux1 ~]$ cat sort_test2.txt 
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -rn sort_test2.txt 
987
234
124
123
123
hello
???

uniq命令

说明
uniq命令用于报告或忽略文件中的重复行，通常与sort命令结合使用。对于uniq来讲，去除重复的内容，内容之间必须相邻，否则没法去除。所以多先用sort排序，再用uniq去重。

语法

uniq(选项)(参数)

经常使用选项

• -c:在每列旁边显示该行重复出现的次数
• -d: 仅显示重复出现的行列；

示例1

[root@moli_linux1 ~]$ cat uniq.txt 
hello
world
hello
python
1
1
2
3
[root@moli_linux1 ~]$ uniq uniq.txt # 只会去除相邻的重复内容数字1，不相邻的重复内容hello不会被删除
hello
world
hello
python
1
2
3

示例2，结合sort删除全部重复内容

[root@moli_linux1 ~]$ sort uniq.txt |uniq
1
2
3
hello
python
world

示例3：统计各行在文件中出现的次数

[root@moli_linux1 ~]$ sort uniq.txt |uniq -c
  2 1
  1 2
  1 3
  2 hello
  1 python
  1 world

示例4：找出文件中重复的行

[root@moli_linux1 ~]$ sort uniq.txt |uniq -d
1
hello

总结：这三个命令常常在shell脚本中使用，除了grep,sed,awk三个以外，也须要熟练掌握。