我觉得是全网最全最好最有用的sed命令详解+示例

看了太多关于sed的介绍,但我觉得这篇写的最好,只看这一个就够了。本文对原文未做任何修改,只是重新排版。(由于用MD重新排版,可能有错误,如发现请指正或阅读原文。)

感谢原做者rick_grace

原文链接:https://blog.csdn.net/jsut_rick/article/details/78287737

sed命令解析
sed(Stream EDitor),流式编辑器

非交互式,基于模式匹配过滤及修改文本 //类比:Vim是一个交互的编辑器

逐行处理,并将结果输出到屏幕

可实现对文本的输出、删除、替换、复制、剪切、导入、导出等各种操作

语法格式:

格式1:前置命令 | sed [选项] '[定址符]处理动作’

格式2:sed [选项] '[定址符]处理动作’文件…

常见命令选项

-i:直接修改文件内容

-n:屏蔽默认输出(全部文本)

-r:启用扩展的正则表达式,若与其他选项一起使用,应作为首个选项

-{}:可组合多个命令,以分号分隔

定址符,即[地址1,[地址2]]

用来指定处理的起、止行数

省略定址符时,默认逐行处理全部文本

“编辑指令”可以为增删改查等指令

“定址符”用来定义需要操作的文本,由“[地址1 [,地址2]]组成

地址可表示为文本的“行号”,或者用来匹配的“/正则表达式/”

正常情况下,sed命令所做的处理只是把操作结果(包括打印、删除等)输出到当前终端屏幕,而并不会对原始文件做任何更改。若希望直接修改文件内容,应添加选项 -i 。为了避免生产环境中因误操作导致系统故障,使用时要谨慎。

给文件添加行号并另存: # cat -n /etc/rc.local > rclocal.txt

基本的处理动作
操作符 用途 指令示例 解释
p 打印行
print
2,4p 输出第2行~第4行
2p,4p 输出第2行、第4行
注:一直不成功。‘2p;4p’才是对的吧?
d 删除行
delete
2,4d 删除第2~4行
s 字符串替换substitution s/old/new/ 将每行的第1 个old替换为new
s/old/new/3 将每行的第3 个old替换为new
s/old/new/g 将所有的old都替换为new

替换担任的分隔“/”,可改用其他字符,如#、&等,便于修改文件路径

示例:把/bin/bash替换为/sbin/sh (/etc/passwd)

# sed “s//bin/bash//sbin/sh/” /etc/passwd 也可写成
(注:这个也不能用,改成其他的可以用。)

# sed “s#/bin/bash#/sbin/sh#” /etc/passwd

sed “s9\98\97\99\984\9\98\99g” 文件 :将98979---》9849989

在这里9是特殊符号,加\屏蔽特殊含义

常见处理操作示例
操作符 示例 解释
输出文本 sed '1p' a.txt 或
sed -n 'p' a.txt
输出所有行,等同于cat a.txt
注:在内核为4.19版上sec ‘1p’ a.txt是不行的,要多输出一行。
sed -n '1p' a.txt 输出第1行
sed -n '4p' a.txt 输出第4行
sed -n '$p' a.txt 输出最后一行
sed -n '5,$p' a.txt 从第5行输出到最后一行
sed -n '4,7p' a.txt 输出第4~7行
sed -n '4,+10p' a.txt 输出第4行及其后的10行内容,共11行
sed -n '2p;5p;7p' a.txt
sed -n '{2p;5p;7p}' a.txt
输出第2,5,7行 用分号来隔离多个操作(如果有定址条件,则应该使用{ }括起来)
sed -n '/a/p' a.txt 输出包括a的行的内容
sed -n '/A/p' a.txt 输出包括A的行的内容
sed -n '/^id/p' a.txt 列出以id开的行
sed -n '/^a/p;/^r/p' a.txt 列出以a/r开的行
sed -n '/local$/p' a.txt 输出以local结尾的行
sed -n 'p;n' a.txt 输出奇数行,n表示读入下一行文本(隔行)next
sed -n 'n;p' a.txt 输出偶数行,n表示读入下一行文本(隔行)
sed -n '$=' a.txt 输出文件的行数, wc -l返回行数及文件名
删除文本 sed 'd' a.txt 删除所有
sed '$d' a.txt 删除文件的最后一行
sed '/^$/d' a.txt 删除所有空行
sed '1d' a.txt 删除第1行
sed '2,5d' a.txt 删除第2~5行
sed '5d;7d;9d' a.txt 删除第5、7、9行
sed '/init/d;/bin/d' a.txt 删除所有包含“init”及“bin”的行
sed '/[0-9]/d' a.txt 删除所有包含数字的行
sed '/^#/d' a.txt 删除所有以#开头的行
sed '/^s/d' a.txt 删除所有以s开头的行
sed -i '/^s/d' a.txt 删除以s开关的行 (修改原文件)
sed '/^install/d' a.txt 删除以install开头的行
sed '/xml/d' a.txt 删除所有包含xml的行,只作输出,不更改原文件
sed '/xml/!d' a.txt等效于
sed -n '/xml/p' a.txt
删除不包含xml的行,!符号表示取反
替换文本 sed 's/xml/XML/' a.txt 将每行中第1个xml替换为XML
sed 's/xml/XML/3' a.txt 将每行中第3个xml替换为XML
sed '2s/xml/XML/3' a.txt 将第2行中第3个xml替换为XML
sed 's/xml/XML/g' a.txt 将所有的xml都替换为XML
sed 's/xml//g' a.txt 将所有的xml都删除(替换为空串)
sed 's/doc/&s/g' a.txt 将所有的doc都替换为docs,&代表查找串
sed '4,7s/^/#/' a.txt 将第4~7行注释掉(行首加#号)
sed '3,5s/^#//' a.txt 解除文件第3~5行的注释(去掉开头的 # )
sed 's/^#an/an/' a.txt 解除以#an开头的行的注释(去除行首的#号)
sed 's/xml\|XML\|e//g' a.txt 删除所有的“xml”、所有的“XML”、所有的字母e,或者的关系用转义方式 \| 来表示

综合运用(很专业,很好用。)

1)删除文件中每行的第二个、最后一个字符

分两次替换操作,第一次替换掉第2个字符,第二次替换掉最后一个字符:

# sed ‘s/.//2;s/.$//’ nssw.txt

2)将文件中每行的第一个、第二个字符互换

每行文本拆分为“第1个字符”、“第2个字符”、“剩下的所有字符”三个部分,然后通过替换操作重排顺序为“2-1-3”:
# sed -r ‘s/^(.)(.)(.*)/\2\1\3/’ nssw.txt

3)将第一个字符与最后一字符对调:

#sed -r “s/^(.)( .*)(.)$/\3\2\1/” nssw.txt

将第一个字符与最后一字符对调:
#sed -r “s/^(.)(.)(.*)(.)(.)$/\1\4\3\2\5/” nssw.txt

4)删除文件中所有的数字、行首的空格

因原文件内没有数字,行首也没有空格,这里稍作做一点处理,生成一个新测试文件:

# sed ‘s/o/o7/;s/l/l4/;3,5s/^/ /’ nssw.txt > nssw2.txt

# cat nssw2.txt

以nssw2.txt文件为例,删除所有数字、行首空格的操作如下:

# sed -r ‘s/[0-9]//g;s/^( )+//’ nssw2.txt

5)为文件中每个大写字母添加括号:

# sed ‘s/[A-Z]/(&)/g’ nssw.txt //使用“&”可调用s替换操作中的整个查找串

或者 # sed -r “s/([A-Z])/(\1)/g” nssw.txt

示例:修改默认运行级别

# sed -i ‘/^id:/s/3/5/’ /etc/inittab //将默认运行级别修改为5

# grep “^id:” /etc/inittab //确认修改结果

示例:修改IP地址(网段):修改IP地址的网段部分,主机地址不变。

直接修改网卡eth0的配置文件,检查原有的配置内容:

# cat /etc/sysconfig/network-scripts/ifcfg-eth0

IPADDR=192.168.4.4

若希望将IP地址192.168.4.4修改为172.16.16.4,则应该定位到“IPADDR”所在的行,执行相应的替换(仅测试,尚未修改):

# sed ‘/^IPADDR/s/192.168.4.4/172.16.16.4/’ \

/etc/sysconfig/network-scripts/ifcfg-eth0 | grep “^IPADDR”

要求只修改网段地址时,可以利用扩展正则表达式的 \1、\2、……等调用,分别对应此前第1个、第2个、…… 以 ()包围的表达式所匹配的内容。

所以上述操作可以改为如下(启用扩展匹配应添加 -r 选项):

# sed -r -i ‘/^IPADDR/s/192.168.4.(.*)/172.16.16.\1/’ \

/etc/sysconfig/network-scripts/ifcfg-eth0

确认修改结果:# grep “^IPADDR” /etc/sysconfig/network-scripts/ifcfg-eth0

示例:调整httpd服务配置,更改网站根目录

由于需要替换的字符串中有 / ,为了避免与sed替换操作的分隔混淆,可以使用其他字符作为替换分隔,比如可改用“s#old#new#”的方式实现替换:

# sed -i ‘s#/var/www/html#/opt/wwwroot#’ \

/etc/httpd/conf/httpd.conf

# grep “^DocumentRoot” /etc/httpd/conf/httpd.conf

DocumentRoot “/opt/wwwroot”

示例:修改/etc/hosts :sed -i ‘1a 1.1.1.1 域名’ /etc/hosts

示例:装配匿名FTP服务

通过yum安装vsftpd软件包;修改vsftpd服务配置,开启匿名上传;调整/var/ftp/pub目录权限,允许ftp写入;启动vsftpd服务,并设置开机自运行

1)任务需求及思路分析

vsftpd服务的安装、改目录权限、起服务等操作可以直接写在脚本中。

修改vsftpd.conf配置的工作可以使用sed命令,根据默认配置,只需要定位到以#anon开头的行,去掉开头的注释即可。

2)根据实现思路编写脚本文件
#!/bin/bash

yum -y install vsftpd                             //安装vsftpd软件

cp /etc/vsftpd/vsftpd.conf{,.bak}                  //备份默认的配置文件

sed -i "/^#anon/s/^#//" /etc/vsftpd/vsftpd.conf      //修改服务配置

chown ftp /var/ftp/pub                              //调整目录权限

/etc/init.d/vsftpd restart                          //启动服务

chkconfig vsftpd on                                  //设为自动运行

# chmod +x anonftp.sh
3)验证、测试脚本

运行脚本anonftp.sh:

# ./anonftp.sh

使用ftp登录服务,测试是否可以上传:

# ftp localhost //本机访问测试

……

Name (localhost:root): ftp //匿名登录

……

ftp> cd pub //切换到 pub/ 目录

……

ftp> put install.log //上传当前目录下的install.log 文件

……

ftp> quit //断开FTP连接

查看/var/ftp/pub新上传的文件:# ls -lh /var/ftp/pub/

示例:clone-vm7脚本
#!/bin/bash
# exit code: 
#    65 -> user input nothing
#    66 -> user input is not a number
#    67 -> user input out of range
#    68 -> vm disk image exists
IMG_DIR=/var/lib/libvirt/images
BASEVM=rh7_template
ROOM=`sed  -n "1p" /etc/hostname |  sed -r 's/(room)([0-9]{1,})(.*)/\2/'`
if [ $ROOM -le 9 ];then
ROOM=0$ROOM
fi
IP=`sed  -n "1p" /etc/hostname |   sed -r 's/(.*)([0-9]+)(.*)/\2/'`
read -p "Enter VM number: " VMNUM
if [ $VMNUM -le 9 ];then
VMNUM=0$VMNUM
fi
if [ -z "${VMNUM}" ]; then
    echo "You must input a number."
    exit 65
elif [ $(echo ${VMNUM}*1 | bc) = 0 ]; then
    echo "You must input a number."
    exit 66
elif [ ${VMNUM} -lt 1 -o ${VMNUM} -gt 99 ]; then
    echo "Input out of range"
    exit 67
fi
NEWVM=rh7_node${VMNUM}
if [ -e $IMG_DIR/${NEWVM}.img ]; then
    echo "File exists."
    exit 68
fi
echo -en "Creating Virtual Machine disk image......\t"
qemu-img create -f qcow2 -b $IMG_DIR/.${BASEVM}.img $IMG_DIR/${NEWVM}.img &> /dev/null
echo -e "\e[32;1m[OK]\e[0m"
#virsh dumpxml ${BASEVM} > /tmp/myvm.xml
cat /var/lib/libvirt/images/.rhel7.xml > /tmp/myvm.xml
sed -i "/<name>${BASEVM}/s/${BASEVM}/${NEWVM}/" /tmp/myvm.xml
sed -i "/uuid/s/<uuid>.*<\/uuid>/<uuid>$(uuidgen)<\/uuid>/" /tmp/myvm.xml
sed -i "/${BASEVM}\.img/s/${BASEVM}/${NEWVM}/" /tmp/myvm.xml
sed -i "/mac /s/a1/${ROOM}/" /tmp/myvm.xml
sed -i "/mac /s/a2/${IP}/" /tmp/myvm.xml
sed -i "/mac /s/a3/${VMNUM}/" /tmp/myvm.xml
sed -i "/mac /s/b1/${ROOM}/" /tmp/myvm.xml
sed -i "/mac /s/b2/${IP}/" /tmp/myvm.xml
sed -i "/mac /s/b3/${VMNUM}/" /tmp/myvm.xml
sed -i "/mac /s/c1/${ROOM}/" /tmp/myvm.xml
sed -i "/mac /s/c2/${IP}/" /tmp/myvm.xml
sed -i "/mac /s/c3/${VMNUM}/" /tmp/myvm.xml
sed -i "/mac /s/d1/${ROOM}/" /tmp/myvm.xml
sed -i "/mac /s/d2/${IP}/" /tmp/myvm.xml
sed -i "/mac /s/d3/${VMNUM}/" /tmp/myvm.xml
 

echo -en "Defining new virtual machine......\t\t"

virsh define /tmp/myvm.xml &> /dev/null

echo -e "\e[32;1m[OK]\e[0m"
sed文本块处理
操作符 用途 指令示例 指令解析
i
insert
行前插入文本 2iYY 在第2行之前添加文本行“YY”
4,7iYY 在第4~7行的第一行前添加文本行
a
append
行后插入文本 2aYY 在第2行之后添加文本
/^XX/aYY 在以XX开头的行之后添加文本
c
change
替换当前行 2cYY 将第2 行的内容修改为“YY”
处理多行文本:

修改后的文本有多行时,以换行符\n分隔,或使用\强制换行

示例:修改主机名配置文件

1)确认修改前的配置 # cat /etc/sysconfig/network

2)使用sed修改主机名配置所在行的内容(c整行替换)

# sed ‘/^HOSTNAME/cHOSTNAME=mysvr.tarena.com’ /etc/sysconfig/network

示例:修改hosts文件,添加新的记录

1)确认修改前的配置 # cat /etc/hosts

2)使用sed修改hosts文件,添加两行新纪录(a追加)

# sed -i '$a192.168.4.5 svr5.tarena.com svr5\

> 119.75.217.56 www.baidu.com’ /etc/hosts

文件导入导出操作

基本动作:r动作应结合-i选项才会存入,否则只输出

W动作以覆盖的方式另存为新文件

操作符 用途 指令示例 指令解析
r 读取文件 3r b.txt 在第3行下方插入文件b.txt
4,7r b.txt 在第4~7每一行后插入文件b.txt
w 保存到文件 3w c.txt 将第3行另存为文件c.txt
4,7w c.txt 将第4~7行另存为文件c.txt

sed -n ‘/^XX/w d.txt’ reg.txt 与sed -n ‘/^XX/p d.txt’ reg.txt > d.txt操作效果相同

sed复制剪切

模式空间:存放当前处理的行,将处理结果输出

若当前行不符合处理条件,则原样输出
处理完当前行再读入下一行来处理

保持空间:作用类似于“剪贴板”

默认存放一个空行(换行符\n)

基本动作:

复制:H:模式空间—[追加]—>保持空间
           h:模式空间—[覆盖]—>保持空间

粘贴:G:保持空间—[追加]—>模式空间
           g:保持空间—[覆盖]—>模式空间

示例:把第1-3行复制到文件末尾:sed ‘1,3H;$G’a.txt

改用’1h;2,3H;$G’可避免出现空行 (出现空行的原因是保持空间内默认已有一个空行)

示例:把第2行复制第4行:# sed ‘2H;4G’ a.txt 追加出现空行

\ # sed ‘2h;4G’ a.txt 不要空行

示例:把第1行剪切到文件末尾:sed ‘1h,1d;$G’a.txt

把第1-2行剪切到文件末尾:sed ‘1h;2H;1,2d;$G’a.txt

sed流控制

!取反操作 ——根据定址条件取反

示例:把/etc/passwd中能登录的用户及其密码(/etc/shadow)提取出来

找到使用bash作登录Shell的本地用户;列出这些用户的shadow密码记录

按每行“用户名 --> 密码记录”保存到getupwd.log

基本思路如下:

1.先用sed工具取出登录Shell为/bin/bash的用户记录,保存为临时文件/tmp/urec.tmp,并计算记录数量

2.再结合while循环遍历取得的账号记录,逐行进行处理

3.针对每一行用户记录,采用掐头去尾的方式获得用户名、密码字串

4.按照指定格式追加到/tmp/getuupwd.log文件

5.结束循环后删除临时文件,报告分析结果

示例:列出不使用bash的用户帐号记录:

# sed -n ‘/bash$/!p’ /etc/passwd

# sed -n ‘/bash$/s/:.*//p’ /etc/passwd

# sed -n ‘/:/bin/bash$/w /tmp/urec.tmp’ /etc/passwd

方法一:

#/bin/bash

> /tmp/getupwd.log                                     ## 创建空文件

sed -n '/:\/bin\/bash$/w /tmp/urec.tmp' /etc/passwd   ## 提取符合条件的账号记录

UNUM=$(egrep -c '.' /tmp/urec.tmp)                   ## 取得记录个数

while [ ${i:=1} -le $UNUM ]                     ## 从第1行开始,遍历账号记录

do

  UREC=$(sed -n "\${i}p" /tmp/urec.tmp)              ## 取指定行数的记录
 NAME=${UREC\%\%\:\*}                  ## 截取用户名(记录去尾)

    PREC=$(sed -n "/^$NAME:/p" /etc/shadow)      ## 查找与用户名对应的密码记录

    PASS=${PREC#*:}                                  ## 掐头

    PASS=${PASS%%:*}                                ## 去尾,只留下密码记录

    echo "$NAME --> $PASS" >> /tmp/getupwd.log         ## 保存结果

    let i++                                           ## 自增1,转下一次循环

done

/bin/rm -rf /tmp/urec.tmp                           ## 删除临时文件

echo "用户分析完毕,请查阅文件 /tmp/getupwd.log"         ## 完成后提示

# chmod +x ./getupwd.sh

步骤二:测试、验证执行结果 # ./getupwd.sh

用户分析完毕,请查阅文件 # less /tmp/getupwd.log

方法二:

#/bin/bash

NAME=`sed -n "/bash$/s/:.*//p" /etc/passwd`    ## 截取用户名(记录去尾)

for i in $NAME

do                           

    pass1=`grep $i /etc/shadow`              ## 查找与用户名对应的密码记录

    pass2=${pass1#*:}                           ## 掐头

    PASS=${pass2%%:*}                           ## 去尾,只留下密码记录

    echo "$i ---> $PASS"  >>/tmp/getupwd.log

done

echo "用户分析完毕,请查阅文件 /tmp/getupwd.log"       ## 完成后提示

从上述参考脚本可以发现,使用sed来实现字段提取会比较复杂。下一章课程将会学到awk命令,届时可以通过更简单的方法来改进此脚本内容。
示例:将日志按最后的时间降序排列

练习用数据,先创建一个文本data.txt,将数据复制进去:

2018-12-24T02:00:45.586+0800 I COMMAND [conn24809] command shinemonitor.CollDevice command: find { find: “CollDevice”, filter: { pn: { $in: [ “B0016480016385”, “B0716471013985”, “B0716471023384”, “B0716471030050”, “B0716471049514”, “B0716471059334”, “B0716471069304”, “B0716471078243”, “B0716471080711” ] protocol:op_query 4613ms
2018-12-24T02:00:45.584+0800 I COMMAND [conn19808] command shinemonitor.CollUsr command: find { find: “CollUsr”, filter: { uid: 38882 protocol:op_query 4612ms
2018-12-24T02:00:45.584+0800 I COMMAND [conn19771] command shinemonitor.CollDevice command: find { find: “CollDevice”, filter: { pn: “H4918090264369”, devcode: 742, devaddr: 1, sn: “102108771809038”, extra.uid: 9201, dts: { $exists: false protocol:op_query 4580ms
2018-12-24T02:00:45.585+0800 I COMMAND [conn24811] command shinemonitor.CollPlant command: find { find: “CollPlant”, filter: { pid: 41532 protocol:op_query 4549ms
2018-12-24T02:00:45.585+0800 I COMMAND [conn19825] command shinemonitor.CollPlant command: find { find: “CollPlant”, filter: { pid: 42225 protocol:op_query 4540ms
2018-12-24T02:00:45.584+0800 I COMMAND [conn19773] command shinemonitor.CollPlant command: find { find: “CollPlant”, filter: { pid: 45122 protocol:op_query 4537ms
2018-12-24T02:00:45.584+0800 I COMMAND [conn8] command shinemonitor.CollTempFile command: find { find: “CollTempFile”, filter: { w: true protocol:op_query 4519ms
2018-12-24T02:00:45.585+0800 I COMMAND [conn19801] command shinemonitor.CollPlant command: find { find: “CollPlant”, filter: { uid: 38882 protocol:op_query 4164ms

命令:sed -r 's/(.*) ([0-9]*ms$)/\2 \1/' a.txt | sort -nr | sed  -r 's/([0-9]*ms) (.*$)/\2 \1/'
发布了15 篇原创文章 · 获赞 4 · 访问量 2100

猜你喜欢

转载自blog.csdn.net/kim5659/article/details/103510639