Linux学习笔记（三）——文本处理

1 cut(字符串切割)

- d,指定字段分隔符，默认是空格
- -d' ',按照空格切割
- -f,指定要显示的字段
- -f 1,3
- -f 1-3

2 sort(文本排序)

• -n,数值排序
• -r,降序
• -t，字段分隔符
• -k，以哪个字段为关键字进行排序
• -u，排序后相同的行只显示一次
• -f，排序时忽略字符大小写

3 wc(文本统计)

• -l,行数
• -w，单词数
• -c，字节数
• -L，

4 sed(Stream Editor,行编辑器)

• 全屏编辑器，vi
• 默认不编辑原文件，仅对模式空间中的数据做处理；而后，处理结束后，将模式空间打印至屏幕；

4.1 sed [options] 'AddressCommand' file ...

• -n, 静默模式，不再默认显示模式空间中的内容
• -i,直接修改原文件
• -e,SCRIPT -e SCRIPT:可以同时执行多个脚本
• -f, /PATH/TO/SED_SCRIPT,sed -f /path/to/scripts file
• -r,表示使用扩展正则表达式

4.2 Command

• d,删除符合条件的行
• p,显示符合条件的行；
• a \string,在指定的行后面追加新行，内容为string,\n：可以用于换行
• i \string,在指定的行前面添加新行，内容为string
• r FILE, 将指定的文件的内容添加至符合条件的行处
• w FILE,将地址指定的范围内的行另存至指定的文件中;
• s/pattern/string/修饰符,查找并替换，默认只替换每行中第一次被模式匹配到的字符串,g: 全局替换,i: 忽略字符大小写
• s///

4.3 sed 练习

1. 删除/etc/grub.conf文件中行首的空白符，`sed -r ‘s@^[[:space:]]+@@g’ /etc/grub.conf
2. 替换/etc/inittab文件中”id:3:initdefault:”一行中的数字为5,sed 's@\(id:\)[0-9]\(:initdefault:\)@\15\2@g' /etc/inittab
3. 删除/etc/inittab文件中的空白行；sed '/^$/d' /etc/inittab

5 awk

awk是一个强大的文本分析工具,相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。

5.1 awk '{pattern + action}' {commands}

其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组,pattern就是要表示的正则表达式，用斜杠括起来。

5.2 #last -n 5 | awk '{print $1}'

读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域
$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户，$3表示登录用户ip,以此类推。

5.3 显示/etc/passwd的账户

5.4 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割

5.5 搜索/etc/passwd有root关键字的所有行

awk -F: '/root/' /etc/passwd

5.6 awk内置变量

awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。
- ARGC,命令行参数个数
- ARGV, 命令行参数排列
- ENVIRON, 支持队列中系统环境变量的使用
- FILENAME,awk浏览的文件名
- FNR,浏览文件的记录数
- FS,设置输入域分隔符，等价于命令行 -F选项
- NF, 浏览记录的域的个数
- NR, 已读的记录数
- OFS,输出域分隔符
- ORS,输出记录分隔符
- RS,控制记录分隔符

5.7 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容

#awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd