使用awk提取文本

1案例1：使用awk提取文本

1.1问题

本案例要求使用awk工具完成下列过滤任务：

• 练习awk工具的基本用法
• 提取本机的网卡流量、根分区剩余容量、获取ssh远程失败的IP地址
• 格式化输出/etc/passwd文件中的用户名、UID、宿主目录信息

1.2步骤

实现此案例需要按照如下步骤进行。

步骤一：awk文本过滤的基本用法

1）基本操作方法

格式：awk [选项] '[条件]{指令}' 文件

其中，print是最常用的编辑指令；若有多条编辑指令，可用分号分隔。

awk过滤数据时支持仅打印某一列，如第2列、第5列等

处理文本时，若未指定分隔符，则默认将空格、制表符等作为分隔符。

直接过滤文件内容：

[root@svr5 ~]# cat test.txt 
hello the world
welcome to beijing
[root@svr5 ~]# awk '{print $1,$3}' test.txt        //打印文档第1列和第3列
hello world
welcome beijing

结合管道过滤命令输出：

[root@svr5 ~]# df -h | awk '{print $4}'        //打印磁盘的剩余空间

2）选项-F可指定分隔符

输出passwd文件中以分号分隔的第1、7个字段，显示的不同字段之间以逗号隔开，操作如下：

[root@svr5 ~]# awk -F: '{print $1,$7}' /etc/passwd
root /bin/bash
bin /sbin/nologin
daemon /sbin/nologin
adm /sbin/nologin
lp /sbin/nologin
… …

awk还识别多种单个的字符，比如以":"或"/"分隔，输出低1、10个字段：

[root@svr5 ~]# awk -F [:/] '{print $1,$10}' /etc/passwd
root bash
bin nologin
daemon nologin
adm sbin
… …

awk常用内置变量：

$0文本当前行的全部内容

$1文本的第1列

$2文本的第2列

$3文本的第3列，以此类推

NR文件当前行的行号

NF文件当前行的列数（有几列）

输出每次处理的行号，以及当前行以":"分隔的字段个数（有几列）：

[root@svr5 ~]# awk -F: '{print NR,NF}' passwd.txt
1 7
2 7
3 7
.. ..

3）awk的print指令不仅可以打印变量，还可以打印常量

[root@svr5 ~]# awk -F: '{print $1,"的解释器:",$7}' /etc/passwd
root 的解释器: /bin/bash
bin 的解释器: /sbin/nologin
… …

步骤二：利用awk提取本机的网络流量、根分区剩余容量，获取远程失败的IP地址

1）提取IP地址

分布实现的思路及操作参考如下——

通过ifconfig eth0查看网卡信息，其中包括网卡流量：

[root@svr5 ~]# ifconfig eth0
eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.4.21  netmask 255.255.255.0  broadcast 192.168.4.255
        inet6 fe80::fa64:c143:ad6a:5159  prefixlen 64  scopeid 0x20<link>
        ether 52:54:00:b3:11:11  txqueuelen 1000  (Ethernet)
        RX packets 313982  bytes 319665556 (304.8 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 51809  bytes 40788621 (38.8 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

RX为接受的数据量，TX为发送的数据量。packet以数据包的数量为单位，bytes以字节为单位：

[root@svr5 ~]# ifconfig eth0 | awk '/RX p/{print $5}'    //过滤接收数据的流量
319663094
[root@svr5 ~]# ifconfig eth0 | awk '/TX p/{print $5}'     //过滤发送数据的流量
40791683

2）提取根分区剩余容量

分布实现的思路及操作参考如下——

通过df命令查看根分区的使用情况，其中包括剩余流量：

[root@svr5 ~]# df -h /
文件系统             容量     已用     可用     已用%     挂载点
/dev/sda2         19G         7.2G     11G         40%         /

输出上述结果中的最后一行的第四列：

[root@svr5 ~]# df -h / | tail -1 | awk '{print $4}'
11G

 或者直接在awk中使用正则：

[root@svr5 ~]# df -h | awk '/\/$/{print $4}'
11G

3）根据/var/log/secure日志文件，过滤远程连接密码失败的IP地址

[root@svr5 ~]# awk '/Failed/{print $11}' /var/log/secure
192.168.2.254
192.168.2.100
... ...

步骤三：格式化输出/etc/passwd文件

1）awk处理的时机

awk会逐行处理文件，支持在处理第一行之前做一些准备工作，以及在处理完最后一行之后做一些走总结性质的工作。在命令格式上分别体现如下：

awk  [选项]  '[条件]{指令}'  文件
awk  [选项]  ' BEGIN{指令} {指令} END{指令}'  文件

• BEGIN{}行前处理，读取文件内容前执行，指令执行1次
• {}逐行处理，读取文件过程中执行，指令执行n次
• END{}行后处理，读取文件结束后执行，指令执行1次

只做预处理的时候，可以没有操作文件，比如：

[root@svr5 ~]# awk 'BEGIN{A=24;print A*2}'
[root@svr5 ~]# awk 'BEGIN{print x+1}'           #x可以不定义，直接用，默认值为0
[root@svr5 ~]# awk 'BEGIN{print 3.2+3.5}'

举个例子（统计系统中使用bash作为登录shell用户总个数）：

a.预处理时赋值变量x=0

b.然后逐行读入/etc/passwd文件，如果发现登录shell是/bin/bash则x加1

c.全部处理完毕后，输出x的值即可。相关操作及结果如下：

[root@svr5 ~]# awk 'BEGIN{x=0}/bash$/{x++} END{print x}' /etc/passwd
29

2）格式化输出/etc/passwd文件

要求：格式化输出passwd文件内容时，要求第一行列表标题，中间打印用户的名称、UID、家目录信息，最好一行提示一共处理文本的总行数，如图所示：

3）根据实现思路编写、验证awk过滤语句

输出信息时，可以使用"\t"显示Tab制表位：

[root@svr5 ~]# awk -F: 'BEGIN{print "User\tUID\tHome"} \
                                {print $1 "\t"  $3  "\t"  $6}     \
                             END{print "Total",NR,"lines."}' /etc/passwd
User    UID     Home
root    0       /root
bin     1       /bin
daemon  2       /sbin
adm     3       /var/adm
lp      4       /var/spool/lpd
sync    5       /sbin
.. ..
Total 67 lines.