当前位置 博文首页 > SED单行脚本快速参考(流编辑器)第1/2页

    SED单行脚本快速参考(流编辑器)第1/2页

    作者:admin 时间:2021-02-03 18:13

    sed (stream editor)

    功能说明:利用script来处理文本文件。
    语法:sed [-hnV][-e<script>][-f<script文件>][文本文件]
    补充说明:sed可依照script的指令,来处理、编辑文本文件。
    参数:
    -e<script>或--expression=<script> 以选项中指定的script来处理输入的文本文件。
    -f<script文件>或--file=<script文件> 以选项中指定的script文件来处理输入的文本文件。
    -h或--help 显示帮助。
    -n或--quiet或--silent 仅显示script处理后的结果。

    -V或--version 显示版本信息。

    sed工作原理:

    sed是一个非交互式的流编辑器。所谓非交互式,是指使用sed只能在命令行下输入编辑命令来编辑文本,然后在屏幕上查看输出;而所谓流编辑器,是指sed每次只从文件(或输入)读入一行,然后对该行进行指定的处理,并将结果输出到屏幕(除非取消了屏幕输出又没有显式地使用打印命令),接着读入下一行。整个文件像流水一样被逐行处理然后逐行输出。

     
    下面我们看一下sed的工作过程。
     
    sed不是在原输入上直接进行处理的,而是先将读入的行放到缓冲区中,对缓冲区里的内容进行处理,处理完毕后也不会写回原文件(除非用shell的输出重定向来保存结果),而是直接输出到屏幕上。sed运行过程中维护着两个缓冲区,一个是活动的“模式空间(pattern space)”,另一个是起辅助作用的“暂存缓冲区(holding space)”。一般情况下,每当运行sedsed首先把第一行装入模式空间,进行处理后输出到屏幕,然后将第二行装入模式空间替换掉模式空间里原来的内容,然后进行处理,以此类推。
     

    一般情况下暂存缓冲区是用不到的,但有特殊的命令可以在模式空间与暂存缓冲区之间交换数据,后文将有介绍。由于sed对文本的所有操作都是在缓冲区里进行的,所以不会对原文件造成任何破坏。

    sed命令格式

    sed的命令格式如下:

    sed [-Options] [‘Commands'] filename

    其中,Command是一个sed命令,sed命令一定要被包含在一对单引号中,以免被shell解释,其格式如下:

    [address-range][sed-command]或
    [Pattern-to-match][sed-command]

    address-range是指要处理的行的范围,又叫地址范围;pattern-to-match是一个要匹配的模式,是一个正则表达式,sed-command是一个sed命令,用来对指定的行进行处理。下面是一个简单的例子:

    sed –n ‘1,3p' students

    这个命令将文件students中的第1到3行打印到屏幕。注意,地址范围和sed命令之间没有空格,如果加入空格,sed也会将其忽略。参数-n用来取消默认输出。默认情况下,sed每读入一行到模式空间,无论是否对其进行处理,在读入下一行之前多要将模式空间中的内容输出到屏幕上。参数-n可以用来取消这种默认的输出,只有当用户用命令p时才将指定的行输出到屏幕。如果没有用参数-n而又对指定行执行了p命令,那么这些行将会被打印两次。

    地址范围可以是一个数字,这个数字代表了一个行号;也可以是一个用逗号分隔的两个数字表示的范围(包括这两行)。范围可以是数字,正则表达式,或是两者的组合。

    pattern-to-match是一个要匹配的模式,sed将会对所有匹配的行执行sed-command。其实,这里的pattern-to-match也可以看作是一个地址,这个地址是所有与指定模式匹配的行的行号。因此sed的格式可以归纳为一种:

    sed [-Options] ‘[address-range][sed-command]' filename

    文本间隔:

    # 在每一行后面增加一空行
    sed G
    # 将原来的所有空行删除并在每一行后面增加一空行。
    # 这样在输出的文本中每一行后面将有且只有一空行。
    sed '/^$/d;G'
    # 在每一行后面增加两行空行
    sed 'G;G'
    # 将第一个脚本所产生的所有空行删除(即删除所有偶[奇]数行)
    sed 'n;d'
    # 在匹配式样“regex”的行之前插入一空行
    sed '/regex/{x;p;x;}'

    # 在匹配式样“regex”的行之后插入一空行
    sed '/regex/G'
    # 在匹配式样“regex”的行之前和之后各插入一空行
    sed '/regex/{x;p;x;G;}'

    编号:

    # 为文件中的每一行进行编号(简单的左对齐方式)。这里使用了“制表符”
    # (tab,见本文末尾关于'\t'的用法的描述)而不是空格来对齐边缘。
    sed = filename | sed 'N;s/\n/\t/'
    # 对文件中的所有行编号(行号在左[上],文字右[左]端对齐)。
    sed = filename | sed 'N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /'
    # 对文件中的所有行编号,但只显示非空白行的行号。
    sed '/./=' filename | sed '/./N; s/\n/ /'
    # 计算行数(模拟"wc -l")
    sed -n '$='

    文本转换和替代:

    # Unix环境:转换DOS的新行符(CR/LF)为Unix格式。
    sed 's/.$//'                                                                                    # 假设所有行以CR/LF结束
    sed 's/^M$//' # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V
    sed 's/\x0D$//'                                                                            # ssed、gsed 3.02.80,及更高版本
    # Unix环境:转换Unix的新行符(LF)为DOS格式。
    sed "s/$/`echo -e \\\r`/"                                                              # 在ksh下所使用的命令
    sed 's/$'"/`echo \\\r`/"                                                                # 在bash下所使用的命令
    sed "s/$/`echo \\\r`/"                                                                  # 在zsh下所使用的命令
    sed 's/$/\r/'                                                                                  # gsed 3.02.80 及更高版本

    # DOS环境:转换Unix新行符(LF)为DOS格式。
    sed "s/$//"                                                                                  # 方法1
    sed -n p                                                                                    # 方法2
    # DOS环境:转换DOS新行符(CR/LF)为Unix格式。
    # 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
    # sed可以通过其特有的“--text”选项。你可以使用帮助选项(“--help”)看
    # 其中有无一个“--text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
    # 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。
    sed "s/\r//" infile >outfile                                                        # UnxUtils sed v4.0.7 或更高版本
    tr -d \r <infile >outfile                                                              # GNU tr 1.22 或更高版本
    # 将每一行前导的“空白字符”(空格,制表符)删除
    # 使之左对齐
    sed 's/^[ \t]*//'                                                                          # 见本文末尾关于'\t'用法的描述
    # 将每一行拖尾的“空白字符”(空格,制表符)删除
    sed 's/[ \t]*$//'                                                                          # 见本文末尾关于'\t'用法的描述

    # 将每一行中的前导和拖尾的空白字符删除
    sed 's/^[ \t]*//;s/[ \t]*$//'
    # 在每一行开头处插入5个空格(使全文向右移动5个字符的位置)
    sed 's/^/ /'
    # 以79个字符为宽度,将所有文本右对齐
    sed -e :a -e 's/^.\{1,78\}$/ &/;ta'                                                            # 78个字符外加最后的一个空格
    # 以79个字符为宽度,使所有文本居中。在方法1中,为了让文本居中每一行的前
    # 头和后头都填充了空格。在方法2中,在居中文本的过程中只在文本的前面填充
    # 空格,并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。

    sed -e :a -e 's/^.\{1,77\}$/ & /;ta'                                                            # 方法1
    sed -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/'                                    # 方法2
    # 在每一行中查找字串“foo”,并将找到的“foo”替换为“bar”
    sed 's/foo/bar/'                                                                                        # 只替换每一行中的第一个“foo”字串
    sed 's/foo/bar/4'                                                                                      # 只替换每一行中的第四个“foo”字串
    sed 's/foo/bar/g'                                                                                      # 将每一行中的所有“foo”都换成“bar”
    sed 's/\(.*\)foo\(.*foo\)/\1bar\2/'                                                              # 替换倒数第二个“foo”
    sed 's/\(.*\)foo/\1bar/'                                                                              # 替换最后一个“foo”
    # 只在行中出现字串“baz”的情况下将“foo”替换成“bar”
    sed '/baz/s/foo/bar/g'
    # 将“foo”替换成“bar”,并且只在行中未出现字串“baz”的情况下替换
    sed '/baz/!s/foo/bar/g'

    # 不管是“scarlet”“ruby”还是“puce”,一律换成“red”
    sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'                                #对多数的sed都有效
    gsed 's/scarlet\|ruby\|puce/red/g'                                                      # 只对GNU sed有效
    # 倒置所有行,第一行成为最后一行,依次类推(模拟“tac”)。
    # 由于某些原因,使用下面命令时HHsed v1.5会将文件中的空行删除
    sed '1!G;h;$!d'                                                                                      # 方法1
    sed -n '1!G;h;$p'                                                                                  # 方法2
    # 将行中的字符逆序排列,第一个字成为最后一字,……(模拟“rev”)
    sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
    # 将每两行连接成一行(类似“paste”)
    sed '$!N;s/\n/ /'

    # 如果当前行以反斜杠“\”结束,则将下一行并到当前行末尾
    # 并去掉原来行尾的反斜杠
    sed -e :a -e '/\\$/N; s/\\\n//; ta'
    # 如果当前行以等号开头,将当前行并到上一行末尾
    # 并以单个空格代替原来行头的“=”
    sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
    # 为数字字串增加逗号分隔符号,将“1234567”改为“1,234,567”
    gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'                                                          # GNU sed
    sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'                                  # 其他sed
    # 为带有小数点和负号的数值增加逗号分隔符(GNU sed)
    gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'
    # 在每5行后增加一空白行(在第5,10,15,20,等行后增加一空白行)
    gsed '0~5G'                                                                                      # 只对GNU sed有效
    sed 'n;n;n;n;G;'                                                                                  # 其他sed

    选择性地显示特定行:

    # 显示文件中的前10行(模拟“head”的行为)
    sed 10q
    # 显示文件中的第一行(模拟“head -1”命令)
    sed q
    # 显示文件中的最后10行(模拟“tail”)
    sed -e :a -e '$q;N;11,$D;ba'

    # 显示文件中的最后2行(模拟“tail -2”命令)
    sed '$!N;$!D'
    # 显示文件中的最后一行(模拟“tail -1”)
    sed '$!d'                                                                                    # 方法1
    sed -n '$p'                                                                                # 方法2
    # 显示文件中的倒数第二行
    sed -e '$!{h;d;}' -e x                                                                # 当文件中只有一行时,输入空行
    sed -e '1{$q;}' -e '$!{h;d;}' -e x                                              # 当文件中只有一行时,显示该行
    sed -e '1{$d;}' -e '$!{h;d;}' -e x                                              # 当文件中只有一行时,不输出
    # 只显示匹配正则表达式的行(模拟“grep”)
    sed -n '/regexp/p'                                                                    # 方法1
    sed '/regexp/!d'                                                                        # 方法2
    # 只显示“不”匹配正则表达式的行(模拟“grep -v”)
    sed -n '/regexp/!p'                                                                  # 方法1,与前面的命令相对应
    sed '/regexp/d'                                                                        # 方法2,类似的语法

    # 查找“regexp”并将匹配行的上一行显示出来,但并不显示匹配行
    sed -n '/regexp/{g;1!p;};h'
    # 查找“regexp”并将匹配行的下一行显示出来,但并不显示匹配行
    sed -n '/regexp/{n;p;}'
    # 显示包含“regexp”的行及其前后行,并在第一行之前加上“regexp”所
    # 在行的行号(类似“grep -A1 -B1”)
    sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
    # 显示包含“AAA”、“BBB”或“CCC”的行(任意次序)

    sed '/AAA/!d; /BBB/!d; /CCC/!d'                                                # 字串的次序不影响结果
    # 显示包含“AAA”、“BBB”和“CCC”的行(固定次序)
    sed '/AAA.*BBB.*CCC/!d'
    # 显示包含“AAA”“BBB”或“CCC”的行(模拟“egrep”)
    sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d                            # 多数sed
    gsed '/AAA\|BBB\|CCC/!d' # 对GNU sed有效
    # 显示包含“AAA”的段落(段落间以空行分隔)
    # HHsed v1.5 必须在“x;”后加入“G;”,接下来的3个脚本都是这样
    sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
    # 显示包含“AAA”“BBB”和“CCC”三个字串的段落(任意次序)
    sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
    # 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落(任意次序)
    sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
    gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'                              # 只对GNU sed有效

    # 显示包含65个或以上字符的行
    sed -n '/^.\{65\}/p'
    # 显示包含65个以下字符的行
    sed -n '/^.\{65\}/!p'                                                                  # 方法1,与上面的脚本相对应
    sed '/^.\{65\}/d'                                                                        # 方法2,更简便一点的方法
    # 显示部分文本——从包含正则表达式的行开始到最后一行结束
    sed -n '/regexp/,$p'
    # 显示部分文本——指定行号范围(从第8至第12行,含8和12行)

    sed -n '8,12p'                                                                        # 方法1
    sed '8,12!d'                                                                            # 方法2
    # 显示第52行
    sed -n '52p'                                                                          # 方法1
    sed '52!d'                                                                              # 方法2
    sed '52q;d'                                                                            # 方法3, 处理大文件时更有效率
    # 从第3行开始,每7行显示一次
    gsed -n '3~7p'                                                                      # 只对GNU sed有效
    sed -n '3,${p;n;n;n;n;n;n;}'                                                  # 其他sed
    # 显示两个正则表达式之间的文本(包含)
    sed -n '/Iowa/,/Montana/p'                                                  # 区分大小写方式

    选择性地删除特定行:

    # 显示通篇文档,除了两个正则表达式之间的内容
    sed '/Iowa/,/Montana/d'
    # 删除文件中相邻的重复行(模拟“uniq”)
    # 只保留重复行中的第一行,其他行删除
    sed '$!N; /^\(.*\)\n\1$/!P; D'
    # 删除文件中的重复行,不管有无相邻。注意hold space所能支持的缓存
    # 大小,或者使用GNU sed。
    sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'
    # 删除除重复行外的所有行(模拟“uniq -d”)
    sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'

    # 删除文件中开头的10行
    sed '1,10d'
    # 删除文件中的最后一行
    sed '$d'
    # 删除文件中的最后两行
    sed 'N;$!P;$!D;$d'
    # 删除文件中的最后10行
    sed -e :a -e '$d;N;2,10ba' -e 'P;D'                                            # 方法1
    sed -n -e :a -e '1,10!{P;N;D;};N;ba'                                          # 方法2
    # 删除8的倍数行
    gsed '0~8d'                                                                                  # 只对GNU sed有效
    sed 'n;n;n;n;n;n;n;d;'                                                                    # 其他sed
    # 删除匹配式样的行
    sed '/pattern/d'                                                                              # 删除含pattern的行。当然pattern
                                                                                                    # 可以换成任何有效的正则表达式

    # 删除文件中的所有空行(与“grep '.' ”效果相同)
    sed '/^$/d' # 方法1
    sed '/./!d' # 方法2
    # 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
    # (模拟“cat -s”)
    sed '/./,/^$/!d'                                                                                #方法1,删除文件顶部的空行,允许尾部保留一空行
    sed '/^$/N;/\n$/D'                                                                        #方法2,允许顶部保留一空行,尾部不留空行

    # 只保留多个相邻空行的前两行。
    sed '/^$/N;/\n$/N;//D'
    # 删除文件顶部的所有空行
    sed '/./,$!d'
    # 删除文件尾部的所有空行
    sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'                                          # 对所有sed有效
    sed -e :a -e '/^\n*$/N;/\n$/ba'                                                  # 同上,但只对gsed 3.02.*有效
    # 删除每个段落的最后一行
    sed -n '/^$/{p;h;};/./{x;/./p;}'

    特殊应用:

    # 移除手册页(man page)中的nroff标记。在Unix System V或bash shell下使
    # 用'echo'命令时可能需要加上-e 选项。
    sed "s/.`echo \\\b`//g"                                                              # 外层的双括号是必须的(Unix环境)
    sed 's/.^H//g'                                                                              # 在bash或tcsh中, 按Ctrl-V 再按Ctrl-H
    sed 's/.\x08//g'                                                                          # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法
    # 提取新闻组或e-mail 的邮件头
    sed '/^$/q'                                                                                  # 删除第一行空行后的所有内容
    # 提取新闻组或e-mail 的正文部分
    sed '1,/^$/d'                                                                              # 删除第一行空行之前的所有内容
    # 从邮件头提取“Subject”(标题栏字段),并移除开头的“Subject:”字样
    sed '/^Subject: */!d; s///;q'

    # 从邮件头获得回复地址
    sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
    # 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮
    # 地址的部分剃除。(见上一脚本)
    sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
    # 在每一行开头加上一个尖括号和空格(引用信息)
    sed 's/^/> /'
    # 将每一行开头处的尖括号和空格删除(解除引用)
    sed 's/^> //'
    # 移除大部分的HTML标签(包括跨行标签)
    sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
    # 将分成多卷的uuencode文件解码。移除文件头信息,只保留uuencode编码部分。
    # 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入;
    # 第二种版本则可以放入一个带执行权限的shell脚本中。(由Rahul Dhesi的一
    # 个脚本修改而来。)

    sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode                                  # vers. 1
    sed '/^end/,/^begin/d' "$@" | uudecode                                                        # vers. 2
    # 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用
    # 字元“\v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以
    # 用其他未在文件中使用的字符来代替它。
    sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
    gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'
    # 分别压缩每个.TXT文件,压缩后删除原来的文件并将压缩后的.ZIP文件
    # 命名为与原来相同的名字(只是扩展名不同)。(DOS环境:“dir /b”

    # 显示不带路径的文件名)。
    echo @echo off >zipup.bat
    dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat