文件分析命令 （awk 、 sort 、uniq、 wc 、cut）
awk
awk 是一个强大的文本分析工具，相对于grep 的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认的分隔符将每行切片，切开的部分再进行各种分析处理。
AWK程序设计语言（样式扫描和处理语言），它允许您创建简短的程序，这些程序读取输入文件、微数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他功能。
使用方法- 命令行模式
awk [-F field-separator ] commands input-files
其中，commands 是真正的awk命令，[-F 域分隔符] 是可选的，input-files是待处理文件
2.shell 脚本方式
将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，以便通过脚本名称来调用。 类似于 shell 脚本的首行 #!/bin/sh 替换成： #!/bin/awk
- 将所有的awk命令插入一个单独的文件，然后调用：
awk -f awk-script-file input-files
其中， -f 选项载入awk-script-file 中的awk脚本， input-files为待处理文件。
sortsort 命令对file参数指定的文件中的行排序，并将结果写到标准输出。如果file参数指定多个文件，那么sort命令将这些文件连接起来，并当做一个文件进行排序。
sort 语法
sort [-fbMnrtuk] [file or stdin]
选项与参数：
-f ：忽略大小写的差异，例如A 与a市委编码相同；
-b ：忽略最前面的空格部分；
-M ：一月份的名字来排序，例如 JAN， DEC 等等的排序方法；
-n ：使用 纯数字 进行排序 （默认是以文字形态来排序的）；
-r ：反向排序；
-u ：就是 uniq， 相同的数据中，进出现一行代表；
-t ：分隔符，默认使用[tab]键来分割；
-k ：以哪个区间（field）来进行排序的意思；
对 /etc/passwd 的账号进行排序
[root@www ~]# cat /etc/passwd | sort
adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
sort 是默认以第一个数据来排序，而且默认是以字元串形式来排序
/etc/passwd 内容是以 : 来分隔的，我想以第三栏来排序，该如何
[root@www ~]# cat /etc/passwd | sort -t : -k 3
root:x:0:0:root:/root:/bin/bash
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
默认是以字元串来排序的，如果想要使用数字排序：
cat /etc/passwd | sort -t : -k 3n
root:x:0:0:root:/root:/bin/bash
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
默认是升序排序，如果要倒序排序，如下
cat /etc/passwd | sort -t : -k 3nr
nobody:x:65534:65534:nobody:/nonexistent:/bin/sh
ntp:x:106:113::/home/ntp:/bin/false
messagebus:x:105:109::/var/run/dbus:/bin/false
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
如果要对/etc/passwd,先以第六个域的第2个字元到第4个字元进行正向排序，再基于第一个域进行反向排序。
cat /etc/passwd | sort -t: -k 6.2,6.4 -k 1r
sync:x:4:65534:sync:/bin:/bin/sync
proxy:x:13:13:proxy:/bin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
sys:x:3:3:sys:/dev:/bin/sh
查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重:
cat /etc/passwd | sort -t: -k 7 -u
root:x:0:0:root:/root:/bin/bash
syslog:x:101:102::/home/syslog:/bin/false
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
sync:x:4:65534:sync:/bin:/bin/sync
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
uniq
uniq 命令可以去除排序过的文件中的重复航，因此经常和 sort 合用，也就是说，为了使uniq 起作用，所有的重复行必须是相邻的。
uniq 语法
[root@www ~]# uniq [-icu]
选项与参数：
-i ：忽略大小写字元的不同；
-c ：进行计数
-u ：只显示唯一的行
testfile.log 的内容如下
cat testfile.log
hello
world
friend
hello
world
hello
直接删除未经排序的文件，将会发现没有任何行被删除
#uniq testfile.log
hello
world
friend
hello
world
hello
排序文件，默认是去重
#cat words | sort |uniq
friend
hello
world
排序之后删除了重复行，同时在行首位置输出该行重复的次数
#sort testfile | uniq -c
1 friend
3 hello
2 world
仅显示存在重复的行，并在行首显示该行重复的次数
#sort testfile | uniq -dc
3 hello
2 world
仅显示不重复的行
sort testfile | uniq -u
friend
wc
统计文件里有多少单词，多少行，多少字元。
wc语法
[root@www ~]# wc [-lwm]
选项与参数：
-l ：仅列出行；
-w ：仅列出多少字(英文单字)；
-m ：多少字元；
默认使用wc统计/etc/passwd
$ wc /etc/passwd
59 98 2961 /etc/passwd
59 行， 98个单词， 2961 个位元组
wc的命令比较简单使用，每个参数使用如下：
$ wc -l /etc/passwd
59 /etc/passwd
$ wc -w /etc/passwd
98 /etc/passwd
$ wc -m /etc/passwd
2961 /etc/passwd
cut
cut命令可以从一个文本文件或者文本流中提取文本列。
cut语法
[root@www ~]# cut -d分隔字元 -f fields <==用于有特定分隔字元
[root@www ~]# cut -c 字元区间 <==用于排列整齐的信息
选项与参数：
-d ：后面接分隔字元。与 -f 一起使用；
-f ：依据 -d 的分隔字元将一段信息分割成为数段，用 -f 取出第几段的意思；
-c ：以字元 (characters) 的单位取出固定字元区间；
PATH 变数如下
[root@www ~]# echo $PATH
/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
# 1 | 2 | 3 | 4 | 5 | 6 | 7
将 PATH 变数取出，我要找出第五个路径。
#echo $PATH | cut -d : -f 5
/usr/local/bin
将 PATH 变数取出，我要找出第三和第五个路径。
#echo $PATH | cut -d : -f 3,5
/sbin:/usr/local/bin
将 PATH 变数取出，我要找出第三到最后一个路径。
echo $PATH | cut -d : -f 3-
/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
将 PATH 变数取出，我要找出第一到第三个路径。
#echo $PATH | cut -d : -f 1-3
/bin:/usr/bin:/sbin:
将 PATH 变数取出，我要找出第一到第三，还有第五个路径。
echo $PATH | cut -d : -f 1-3,5
/bin:/usr/bin:/sbin:/usr/local/bin
实用例子:只显示/etc/passwd的用户和shell
#cat /etc/passwd | cut -d : -f 1,7
root:/bin/bash
daemon:/bin/sh
bin:/bin/sh
推荐阅读：
