文件分析命令 （awk 、 sort 、uniq、 wc 、cut）
awk
awk 是一個強大的文本分析工具，相對於grep 的查找，sed的編輯，awk在其對數據分析並生成報告時，顯得尤為強大。簡單來說awk就是把文件逐行的讀入，以空格為默認的分隔符將每行切片，切開的部分再進行各種分析處理。
AWK程序設計語言（樣式掃描和處理語言），它允許您創建簡短的程序，這些程序讀取輸入文件、微數據排序、處理數據、對輸入執行計算以及生成報表，還有無數其他功能。
使用方法- 命令行模式
awk [-F field-separator ] commands input-files
其中，commands 是真正的awk命令，[-F 域分隔符] 是可選的，input-files是待處理文件
2.shell 腳本方式
將所有的awk命令插入一個文件，並使awk程序可執行，然後awk命令解釋器作為腳本的首行，以便通過腳本名稱來調用。 類似於 shell 腳本的首行 #!/bin/sh 替換成： #!/bin/awk
- 將所有的awk命令插入一個單獨的文件，然後調用：
awk -f awk-script-file input-files
其中， -f 選項載入awk-script-file 中的awk腳本， input-files為待處理文件。
sortsort 命令對file參數指定的文件中的行排序，並將結果寫到標準輸出。如果file參數指定多個文件，那麼sort命令將這些文件連接起來，併當做一個文件進行排序。
sort 語法
sort [-fbMnrtuk] [file or stdin]
選項與參數：
-f ：忽略大小寫的差異，例如A 與a市委編碼相同；
-b ：忽略最前面的空格部分；
-M ：一月份的名字來排序，例如 JAN， DEC 等等的排序方法；
-n ：使用 純數字 進行排序 （默認是以文字形態來排序的）；
-r ：反向排序；
-u ：就是 uniq， 相同的數據中，進出現一行代表；
-t ：分隔符，默認使用[tab]鍵來分割；
-k ：以哪個區間（field）來進行排序的意思；
對 /etc/passwd 的賬號進行排序
[root@www ~]# cat /etc/passwd | sort
adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
sort 是默認以第一個數據來排序，而且默認是以字元串形式來排序
/etc/passwd 內容是以 : 來分隔的，我想以第三欄來排序，該如何
[root@www ~]# cat /etc/passwd | sort -t : -k 3
root:x:0:0:root:/root:/bin/bash
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
默認是以字元串來排序的，如果想要使用數字排序：
cat /etc/passwd | sort -t : -k 3n
root:x:0:0:root:/root:/bin/bash
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
默認是升序排序，如果要倒序排序，如下
cat /etc/passwd | sort -t : -k 3nr
nobody:x:65534:65534:nobody:/nonexistent:/bin/sh
ntp:x:106:113::/home/ntp:/bin/false
messagebus:x:105:109::/var/run/dbus:/bin/false
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
如果要對/etc/passwd,先以第六個域的第2個字元到第4個字元進行正向排序，再基於第一個域進行反向排序。
cat /etc/passwd | sort -t: -k 6.2,6.4 -k 1r
sync:x:4:65534:sync:/bin:/bin/sync
proxy:x:13:13:proxy:/bin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
sys:x:3:3:sys:/dev:/bin/sh
查看/etc/passwd有多少個shell:對/etc/passwd的第七個域進行排序，然後去重:
cat /etc/passwd | sort -t: -k 7 -u
root:x:0:0:root:/root:/bin/bash
syslog:x:101:102::/home/syslog:/bin/false
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
sync:x:4:65534:sync:/bin:/bin/sync
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
uniq
uniq 命令可以去除排序過的文件中的重複航，因此經常和 sort 合用，也就是說，為了使uniq 起作用，所有的重複行必須是相鄰的。
uniq 語法
[root@www ~]# uniq [-icu]
選項與參數：
-i ：忽略大小寫字元的不同；
-c ：進行計數
-u ：只顯示唯一的行
testfile.log 的內容如下
cat testfile.log
hello
world
friend
hello
world
hello
直接刪除未經排序的文件，將會發現沒有任何行被刪除
#uniq testfile.log
hello
world
friend
hello
world
hello
排序文件，默認是去重
#cat words | sort |uniq
friend
hello
world
排序之後刪除了重複行，同時在行首位置輸出該行重複的次數
#sort testfile | uniq -c
1 friend
3 hello
2 world
僅顯示存在重複的行，並在行首顯示該行重複的次數
#sort testfile | uniq -dc
3 hello
2 world
僅顯示不重複的行
sort testfile | uniq -u
friend
wc
統計文件裏有多少單詞，多少行，多少字元。
wc語法
[root@www ~]# wc [-lwm]
選項與參數：
-l ：僅列出行；
-w ：僅列出多少字(英文單字)；
-m ：多少字元；
默認使用wc統計/etc/passwd
$ wc /etc/passwd
59 98 2961 /etc/passwd
59 行， 98個單詞， 2961 個位元組
wc的命令比較簡單使用，每個參數使用如下：
$ wc -l /etc/passwd
59 /etc/passwd
$ wc -w /etc/passwd
98 /etc/passwd
$ wc -m /etc/passwd
2961 /etc/passwd
cut
cut命令可以從一個文本文件或者文本流中提取文本列。
cut語法
[root@www ~]# cut -d分隔字元 -f fields <==用於有特定分隔字元
[root@www ~]# cut -c 字元區間 <==用於排列整齊的信息
選項與參數：
-d ：後面接分隔字元。與 -f 一起使用；
-f ：依據 -d 的分隔字元將一段信息分割成為數段，用 -f 取出第幾段的意思；
-c ：以字元 (characters) 的單位取出固定字元區間；
PATH 變數如下
[root@www ~]# echo $PATH
/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
# 1 | 2 | 3 | 4 | 5 | 6 | 7
將 PATH 變數取出，我要找出第五個路徑。
#echo $PATH | cut -d : -f 5
/usr/local/bin
將 PATH 變數取出，我要找出第三和第五個路徑。
#echo $PATH | cut -d : -f 3,5
/sbin:/usr/local/bin
將 PATH 變數取出，我要找出第三到最後一個路徑。
echo $PATH | cut -d : -f 3-
/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
將 PATH 變數取出，我要找出第一到第三個路徑。
#echo $PATH | cut -d : -f 1-3
/bin:/usr/bin:/sbin:
將 PATH 變數取出，我要找出第一到第三，還有第五個路徑。
echo $PATH | cut -d : -f 1-3,5
/bin:/usr/bin:/sbin:/usr/local/bin
實用例子:只顯示/etc/passwd的用戶和shell
#cat /etc/passwd | cut -d : -f 1,7
root:/bin/bash
daemon:/bin/sh
bin:/bin/sh
推薦閱讀：
