Linux Shell 019-文本行处理工具sed

Linux Shell 019-文本行处理工具sed

本节关键字：Linux、Bash Shell、文本行处理工具
相关指令：sed、

sed介绍

sed是Stream Editor（流编辑器）的缩写，简称流编辑器；用来处理文件的。sed是一行一行读取文件内容并按照要求进行处理，把处理后的结果输出到屏幕。sed的工作流程如下：

• 首先sed读取文件中的一行内容，把其保存在一个临时缓存区中（也称为模式空间）
• 然后根据需求处理临时缓冲区中的行，完成后把该行发送到屏幕上

sed语法

sed常见的语法格式有两种，一种叫命令行模式，另一种叫脚本模式。

sed命令行格式

基本语法

sed [options] ‘处理动作’ 文件名

常用选项

选项	说明	备注
-e	进行多项(多次)编辑
-n	取消默认输出	不自动打印模式空间
-r	使用扩展正则表达式
-i	原地编辑（修改源文件）
-f	指定sed脚本的文件名

常见处理动作

提示：以下所有的动作都要在单引号里

动作	说明	备注
p	打印
i	在指定行之前插入内容	类似vim里的大写O
a	在指定行之后插入内容	类似vim里的小写o
c	替换指定行所有内容
d	删除指定行

对文件进行增删改查操作

基本语法

sed 选项 ‘定位+命令’ 需要处理的文件

打印文件内容

命令	说明
$ sed ‘’ a.txt	对文件什么都不做
$ sed -n ‘p’ a.txt	打印每一行，并取消默认输出
$ sed -n ‘1p’ a.txt	打印第1行
$ sed -n ‘2p’ a.txt	打印第2行
$ sed -n ‘1,5p’ a.txt	打印1到5行
$ sed -n ‘$p’ a.txt	打印最后1行

增加文件内容

说明：

• i 在光标所在行的上面插入
• a 在光标所在行的下面插入

$ sed '$a99999' a.txt                # 文件最后一行下面增加内容
$ sed 'a99999' a.txt                 # 文件每行下面增加内容
$ sed '5a99999' a.txt                # 文件第5行下面增加内容
$ sed '$i99999' a.txt                # 文件最后一行上一行增加内容
$ sed 'i99999' a.txt                 # 文件每行上一行增加内容
$ sed '6i99999' a.txt                # 文件第6行上一行增加内容
$ sed '/^uucp/ihello'                # 以uucp开头行的上一行插入内容

修改文件内容

# c   替换指定的整行内容
$ sed '5chello world' a.txt        # 替换文件第5行内容
$ sed 'chello world' a.txt         # 替换文件所有内容
$ sed '1,5chello world' a.txt      # 替换文件1到5号内容为hello world
$ sed '/^user01/c888888' a.txt     # 替换以user01开头的行

删除文件内容

$ sed '1d' a.txt             删除文件第1行
$ sed '1,5d' a.txt             删除文件1到5行
$ sed '$d' a.txt            删除文件最后一行

对文本进行搜索替换操作

基本语法

# sed 选项 's/搜索的内容/替换的内容/动作' 需要处理的文件
# 其中，s表示search搜索；斜杠/表示分隔符，可以自己定义;动作一般是打印p和全局替换g
$ sed -n 's/root/ROOT/p' 1.txt 
$ sed -n 's/root/ROOT/gp' 1.txt 
$ sed -n 's/^#//gp' 1.txt 
$ sed -n 's@/sbin/nologin@itcast@gp' a.txt
$ sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
$ sed -n '10s#/sbin/nologin#itcast#p' a.txt 
uucp:x:10:14:uucp:/var/spool/uucp:itcast
$ sed -n 's@/sbin/nologin@itcastheima@p' 2.txt 
# 注意：搜索替换中的分隔符可以自己指定

# 注释掉文件的1-5行内容
$ sed -n '1,5s/^/#/p' a.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

其它命令

命令	解释	备注
r	从另外文件中读取内容
w	内容另存为
&	保存查找串以便在替换串中引用	和\(\)相同
=	打印行号
！	对所选行以外的所有行应用命令，放到行数之后	‘1,5!’
q	退出

使用示例

# r    从文件中读取输入行
# w    将所选的行写入文件
$ sed '3r /etc/hosts' 2.txt 
$ sed '$r /etc/hosts' 2.txt
$ sed '/root/w a.txt' 2.txt 
$ sed '/[0-9]{4}/w a.txt' 2.txt
$ sed  -r '/([0-9]{1,3}\.){3}[0-9]{1,3}/w b.txt' 2.txt

# !    对所选行以外的所有行应用命令，放到行数之后
$ sed -n '1!p' 1.txt 
$ sed -n '4p' 1.txt 
$ sed -n '4!p' 1.txt 
$ cat -n 1.txt 
$ sed -n '1,17p' 1.txt 
$ sed -n '1,17!p' 1.txt 

# &   保存查找串以便在替换串中引用   \(\)
$ sed -n '/root/p' a.txt 
root:x:0:0:root:/root:/bin/bash
$ sed -n 's/root/#&/p' a.txt 
#root:x:0:0:root:/root:/bin/bash

# 注释掉以root开头的行
$ sed -n 's/^root/#&/p' passwd

# 注释掉以root开头或者以stu开头的行
$  sed -n -r 's/^root|^stu/#&/p' /etc/passwd

# 注释掉1~5行中以任意小写字母开头的行
$ sed -n '1,5s/^[a-z].*/#&/p' passwd

# 注释1~5行
$ sed -n '1,5s/^/#/p' /etc/passwd
# 或者
# 以空开头的加上#
$ sed -n '1,5s/^/#/p' passwd
# 以#开头的替换成空
$ sed -n '1,5s/^#//p' passwd

$ sed -n '/^root/p' 1.txt 
$ sed -n 's/^root/#&/p' 1.txt 
$ sed -n 's/\(^root\)/#\1/p' 1.txt 
$ sed -nr '/^root|^stu/p' 1.txt 
$ sed -nr 's/^root|^stu/#&/p' 1.txt 

# =     打印行号
# 打印以bash结尾的行的行号
$ sed -n '/bash$/=' passwd
$ sed -ne '/root/=' -ne '/root/p' passwd 
$ sed -n '/nologin$/=;/nologin$/p' 1.txt
$ sed -ne '/nologin$/=' -ne '/nologin$/p' 1.txt

# q    退出
$ sed '5q' 1.txt
$ sed '/mail/q' 1.txt
$ sed -r '/^yunwei|^mail/q' 1.txt
$ sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash

综合运用：

$ sed -n '1,5s/^/#&/p' 1.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

$ sed -n '1,5s/\(^\)/#\1/p' 1.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

其它选项

选项	说明
-e	多项编辑
-r	扩展正则
-i	修改原文件

$ sed -ne '/root/p' 1.txt -ne '/root/='
root:x:0:0:root:/root:/bin/bash
1
$ sed -ne '/root/=' -ne '/root/p' 1.txt 
1
root:x:0:0:root:/root:/bin/bash

# 在1.txt文件中的第5行的前面插入“hello world”;在1.txt文件的第8行下面插入“哈哈哈哈”
$ sed -e '5ihello world' -e '8a哈哈哈哈哈' 1.txt  -e '5=;8='

$ sed -n '1,5p' 1.txt
$ sed -ne '1p' -ne '5p' 1.txt
$ sed -ne '1p;5p' 1.txt

# 过滤vsftpd.conf文件中以#开头和空行：
$ grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
$ sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
$ sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
$ sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf

# 过滤smb.conf文件中生效的行：
$ sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
$ sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf 
$ sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf

$ grep '^[^a-z]' 1.txt
$ sed -n '/^[^a-z]/p' 1.txt

# 过滤出文件中的IP地址：
$ grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt
$ sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt
$ grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt
$ sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt

# 过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
$ grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0 
$ sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
$ sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
$ ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
$ ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed  '/^$/d'
$ ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'

# -i 选项  直接修改原文件
$ sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
$ sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
$ sed -i '1,5s/^/#&/' a.txt

注意：

• -ni 不要一起使用
• p命令 不要再使用-i时使用

sed与正则表达式的综合使用示例

基本语法

sed 选项 ‘sed命令或者正则表达式或者地址定位’ 文件名

定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。

如果没有指定地址，sed将处理输入文件的所有行。

正则	说明	备注
/key/	查询包含关键字的行	sed -n ‘/root/p’ 1.txt
/key1/,/key2/	匹配包含两个关键字之间的行	sed -n ‘/adm/,/mysql/p’ 1.txt
/key/,x	从匹配关键字的行开始到文件第x行之间的行（包含关键字所在行）	sed -n ‘/^ftp/,7p’
x,/key/	从文件的第x行开始到与关键字的匹配行之间的行
x,y!	不包含x到y行
/key/!	不包括关键字的行	sed -n ‘/bash$/!p’ 1.txt

脚本格式

基本语法

$ sed -f scripts.sh  file        //使用脚本处理文件
# 建议使用   ./sed.sh   file

# 脚本的第一行写上
#!/bin/sed -f
1,5d
s/root/hello/g
3i777
5i888
a999
p

注意事项

１）　脚本文件是一个sed的命令行清单。‘commands’
２）　在每行的末尾不能有任何空格、制表符（tab）或其它文本。
３）　如果在一行中有多个命令，应该用分号分隔。
４）　不需要且不可用引号保护命令
５）　#号开头的行为注释

使用示例

$ cat passwd
stu3:x:509:512::/home/user3:/bin/bash
stu4:x:510:513::/home/user4:/bin/bash
stu5:x:511:514::/home/user5:/bin/bash

$ cat sed.sh 
#!/bin/sed -f
2a\
******************
2,$s/stu/user/
$a\
we inster new line
s/^[a-z].*/#&/

$ cat 1.sed 
#!/bin/sed -f
3a**********************
$chelloworld
1,3s/^/#&/

$ sed -f 1.sed -i 11.txt 
$ cat 11.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
**********************
adm:x:3:4:adm:/var/adm:/sbin/nologin
helloworld

扩展说明

1、正则表达式必须以”/“前后规范间隔

$ sed '/root/d' file
$ sed '/^root/d' file

2、如果匹配的是扩展正则表达式，需要使用-r选来扩展sed

$ grep -E
$ sed -r
# + ? () {n,m} | \d

注意：
在正则表达式中如果出现特殊字符(^$.*/[]),需要以前导 “” 号做转义
eg：sed ‘/$foo/p’ file

3、逗号分隔符

# 删除5到7行
$ sed '5,7d' file
# 删除第一个匹配字符串"root"到第一个匹配字符串"ftp"的所有行本行不找 循环执行
$ sed '/root/,/ftp/d' file

4、组合方式

$ sed '1,/foo/d' file            # 删除第一行到第一个匹配字符串"foo"的所有行
$ sed '/foo/,+4d' file           # 删除从匹配字符串”foo“开始到其后四行为止的行
$ sed '/foo/,~3d' file           # 删除从匹配字符串”foo“开始删除到3的倍数行（文件中）
$ sed '1~5d' file                # 从第一行开始删每五行删除一行
$ sed -nr '/foo|bar/p' file      # 显示配置字符串"foo"或"bar"的行
$ sed -n '/foo/,/bar/p' file     # 显示匹配从foo到bar的行
$ sed '1~2d' file                # 删除奇数行
$ sed '0-2d' file                # 删除偶数行 sed '1~2!d'  file

5、特殊情况

$ sed '$d' file                  # 删除最后一行
$ sed '1d' file                  # 删除第一行

6、其他：

$ sed 's/.//' a.txt              # 删除每一行中的第一个字符
$ sed 's/.//2' a.txt             # 删除每一行中的第二个字符
$ sed 's/.//N' a.txt             # 从文件中第N行开始，删除每行中第N个字符（N>2）
$ sed 's/.$//' a.txt             # 删除每一行中的最后一个字符

$ cat 2.txt 
1 a
2 b
3 c
4 d
5 e
6 f
7 u
8 k
9 o
$ sed '/c/,~2d' 2.txt 
1 a
2 b
5 e
6 f
7 u
8 k
9 o