常用Linux命令(二)--sed
Contents
[NOTE] Updated September 13, 2021. This article may have outdated content or subject matter.
在每一行後面增加一空行
sed G
將原來的所有空行刪除並在每一行後面增加一空行。
這樣在輸出的文本中每一行後面將有且只有一空行。
sed '/^$/d;G'
在每一行後面增加兩行空行
sed 'G;G'
將第一個腳本所產生的所有空行刪除(即刪除所有偶數行)
sed 'n;d'
在匹配式樣「regex」的行之前插入一空行
sed '/regex/{x;p;x;}'
在匹配式樣「regex」的行之後插入一空行
sed '/regex/G'
在匹配式樣「regex」的行之前和之後各插入一空行
sed '/regex/{x;p;x;G;}'
編號:
為文件中的每一行進行編號(簡單的左對齊方式)。這裡使用了「製表符」
(tab,見本文末尾關於' ‘的用法的描述)而不是空格來對齊邊緣。
sed = filename | sed 'N;s/ / /'
對文件中的所有行編號(行號在左,文字右端對齊)。
sed = filename | sed 'N; s/^/ /; s/ *(.{6,}) /1 /'
對文件中的所有行編號,但只顯示非空白行的行號。
sed '/./=' filename | sed '/./N; s/ / /'
計算行數 (模擬 “wc -l”)
sed -n '$='
文本轉換和替代:
Unix環境:轉換DOS的新行符(CR/LF)為Unix格式。
sed 's/.$//' ## 假設所有行以CR/LF結束
sed 's/^M$//' ## 在bash/tcsh中,將按Ctrl-M改為按Ctrl-V
sed 's/x0D$//' ## ssed、gsed 3.02.80,及更高版本
Unix環境:轉換Unix的新行符(LF)為DOS格式。
sed "s/$/`echo -e `/" ## 在ksh下所使用的命令
sed 's/$'"/`echo `/" ## 在bash下所使用的命令
sed "s/$/`echo `/" ## 在zsh下所使用的命令
sed 's/$/ /' ## gsed 3.02.80 及更高版本
DOS環境:轉換Unix新行符(LF)為DOS格式。
sed "s/$//" ## 方法 1
sed -n p ## 方法 2
DOS環境:轉換DOS新行符(CR/LF)為Unix格式。
下面的腳本只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的
sed可以通過其特有的「–text」選項。你可以使用幫助選項(「–help」)看
其中有無一個「–text」項以此來判斷所使用的是否是UnxUtils版本。其它DOS
版本的的sed則無法進行這一轉換。但可以用「tr」來實現這一轉換。
sed "s/ //" infile >outfile ## UnxUtils sed v4.0.7 或更高版本
tr -d <infile >outfile ## GNU tr 1.22 或更高版本
將每一行前導的「空白字符」(空格,製表符)刪除
使之左對齊
sed 's/^[ ]*//' ## 見本文末尾關於' '用法的描述
將每一行拖尾的「空白字符」(空格,製表符)刪除
sed 's/[ ]*$//' ## 見本文末尾關於' '用法的描述
將每一行中的前導和拖尾的空白字符刪除
sed 's/^[ ]*//;s/[ ]*$//'
在每一行開頭處插入5個空格(使全文向右移動5個字符的位置)
sed 's/^/ /'
以79個字符為寬度,將所有文本右對齊
sed -e :a -e 's/^.{1,78}$/ &/;ta' ## 78個字符外加最後的一個空格
以79個字符為寬度,使所有文本居中。在方法1中,為了讓文本居中每一行的前
頭和後頭都填充了空格。 在方法2中,在居中文本的過程中只在文本的前面填充
空格,並且最終這些空格將有一半會被刪除。此外每一行的後頭並未填充空格。
sed -e :a -e 's/^.{1,77}$/ & /;ta' ## 方法1
sed -e :a -e 's/^.{1,77}$/ &/;ta' -e 's/( *)1/1/' ## 方法2
在每一行中查找字串「foo」,並將找到的「foo」替換為「bar」
sed 's/foo/bar/' ## 只替換每一行中的第一個「foo」字串
sed 's/foo/bar/4' ## 只替換每一行中的第四個「foo」字串
sed 's/foo/bar/g' ## 將每一行中的所有「foo」都換成「bar」
sed 's/(.*)foo(.*foo)/1bar2/' ## 替換倒數第二個「foo」
sed 's/(.*)foo/1bar/' ## 替換最後一個「foo」
只在行中出現字串「baz」的情況下將「foo」替換成「bar」
sed '/baz/s/foo/bar/g'
將「foo」替換成「bar」,並且只在行中未出現字串「baz」的情況下替換
sed '/baz/!s/foo/bar/g'
不管是「scarlet」「ruby」還是「puce」,一律換成「red」
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' ##對多數的sed都有效
gsed 's/scarlet|ruby|puce/red/g' ## 只對GNU sed有效
倒置所有行,第一行成為最後一行,依次類推(模擬「tac」)。
由於某些原因,使用下面命令時HHsed v1.5會將文件中的空行刪除
sed '1!G;h;$!d' ## 方法1
sed -n '1!G;h;$p' ## 方法2
將行中的字符逆序排列,第一個字成為最後一字,……(模擬「rev」)
sed '/ /!G;s/(.)(.* )/&21/;//D;s/.//'
將每兩行連接成一行(類似「paste」)
sed '$!N;s/ / /'
如果當前行以反斜槓「」結束,則將下一行並到當前行末尾
並去掉原來行尾的反斜槓
sed -e :a -e '/$/N; s/ //; ta'
如果當前行以等號開頭,將當前行並到上一行末尾
並以單個空格代替原來行頭的「=」
sed -e :a -e '$!N;s/ =/ /;ta' -e 'P;D'
為數字字串增加逗號分隔符號,將「1234567」改為「1,234,567」
gsed ':a;s/B[0-9]{3}>/,&/;ta' ## GNU sed
sed -e :a -e 's/(.*[0-9])([0-9]{3})/1,2/;ta' ## 其他sed
為帶有小數點和負號的數值增加逗號分隔符(GNU sed)
`` gsed -r ‘:a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/12,3/g;ta’
## 在每5行後增加一空白行 (在第5,10,15,20,等行後增加一空白行)
gsed ‘0~5G’ ## 只對GNU sed有效
sed ‘n;n;n;n;G;’ ## 其他sed
# 選擇性地顯示特定行:
--------
## 顯示文件中的前10行 (模擬「head」的行為)
sed 10q
## 顯示文件中的第一行 (模擬「head -1」命令)
sed q
## 顯示文件中的最後10行 (模擬「tail」)
sed -e :a -e ‘$q;N;11,$D;ba’
## 顯示文件中的最後2行(模擬「tail -2」命令)
sed ‘$!N;$!D’
## 顯示文件中的最後一行(模擬「tail -1」)
sed ‘$!d’ ## 方法1
sed -n ‘$p’ ## 方法2
## 顯示文件中的倒數第二行
sed -e ‘$!{h;d;}’ -e x ## 當文件中只有一行時,輸入空行
sed -e ‘1{$q;}’ -e ‘$!{h;d;}’ -e x ## 當文件中只有一行時,顯示該行
sed -e ‘1{$d;}’ -e ‘$!{h;d;}’ -e x ## 當文件中只有一行時,不輸出
## 只顯示匹配正則表達式的行(模擬「grep」)
sed -n ‘/regexp/p’ ## 方法1
sed ‘/regexp/!d’ ## 方法2
## 只顯示「不」匹配正則表達式的行(模擬「grep -v」)
sed -n ‘/regexp/!p’ ## 方法1,與前面的命令相對應
sed ‘/regexp/d’ ## 方法2,類似的語法
## 查找「regexp」並將匹配行的上一行顯示出來,但並不顯示匹配行
sed -n ‘/regexp/{g;1!p;};h’
## 查找「regexp」並將匹配行的下一行顯示出來,但並不顯示匹配行
sed -n ‘/regexp/{n;p;}’
## 顯示包含「regexp」的行及其前後行,並在第一行之前加上「regexp」所
## 在行的行號 (類似「grep -A1 -B1」)
sed -n -e ‘/regexp/{=;x;1!p;g;$!N;p;D;}’ -e h
## 顯示包含「AAA」、「BBB」或「CCC」的行(任意次序)
sed ‘/AAA/!d; /BBB/!d; /CCC/!d’ ## 字串的次序不影響結果
## 顯示包含「AAA」、「BBB」和「CCC」的行(固定次序)
sed ‘/AAA.*BBB.*CCC/!d’
## 顯示包含「AAA」「BBB」或「CCC」的行 (模擬「egrep」)
sed -e ‘/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d ## 多數sed
gsed ‘/AAA|BBB|CCC/!d’ ## 對GNU sed有效
## 顯示包含「AAA」的段落 (段落間以空行分隔)
## HHsed v1.5 必須在「x;」後加入「G;」,接下來的3個腳本都是這樣
sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/!d;’
## 顯示包含「AAA」「BBB」和「CCC」三個字串的段落 (任意次序)
sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/!d;/BBB/!d;/CCC/!d’
## 顯示包含「AAA」、「BBB」、「CCC」三者中任一字串的段落 (任意次序)
sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d
gsed ‘/./{H;$!d;};x;/AAA|BBB|CCC/b;d’ ## 只對GNU sed有效
## 顯示包含65個或以上字符的行
sed -n ‘/^.{65}/p’
## 顯示包含65個以下字符的行
sed -n ‘/^.{65}/!p’ ## 方法1,與上面的腳本相對應
sed ‘/^.{65}/d’ ## 方法2,更簡便一點的方法
## 顯示部分文本——從包含正則表達式的行開始到最後一行結束
sed -n ‘/regexp/,$p’
## 顯示部分文本——指定行號範圍(從第8至第12行,含8和12行)
sed -n ‘8,12p’ ## 方法1
sed ‘8,12!d’ ## 方法2
## 顯示第52行
sed -n ‘52p’ ## 方法1
sed ‘52!d’ ## 方法2
sed ‘52q;d’ ## 方法3, 處理大文件時更有效率
## 從第3行開始,每7行顯示一次
gsed -n ‘3~7p’ ## 只對GNU sed有效
sed -n ‘3,${p;n;n;n;n;n;n;}’ ## 其他sed
## 顯示兩個正則表達式之間的文本(包含)
sed -n ‘/Iowa/,/Montana/p’ ## 區分大小寫方式
# 選擇性地刪除特定行:
--------
## 顯示通篇文檔,除了兩個正則表達式之間的內容
sed ‘/Iowa/,/Montana/d’
## 刪除文件中相鄰的重複行(模擬「uniq」)
## 只保留重複行中的第一行,其他行刪除
sed ‘$!N; /^(.*) 1$/!P; D’
## 刪除文件中的重複行,不管有無相鄰。注意hold space所能支持的緩存
## 大小,或者使用GNU sed。
sed -n ‘G; s/ /&&/; /^([ -~]* ).* 1/d; s/ //; h; P’
## 刪除除重複行外的所有行(模擬「uniq -d」)
sed ‘$!N; s/^(.*) 1$/1/; t; D’
## 刪除文件中開頭的10行
sed ‘1,10d’
## 刪除文件中的最後一行
sed ‘$d’
## 刪除文件中的最後兩行
sed ‘N;$!P;$!D;$d’
## 刪除文件中的最後10行
sed -e :a -e ‘$d;N;2,10ba’ -e ‘P;D’ ## 方法1
sed -n -e :a -e ‘1,10!{P;N;D;};N;ba’ ## 方法2
## 刪除8的倍數行
gsed ‘0~8d’ ## 只對GNU sed有效
sed ‘n;n;n;n;n;n;n;d;’ ## 其他sed
## 刪除匹配式樣的行
sed ‘/pattern/d’ ## 刪除含pattern的行。當然pattern
## 可以換成任何有效的正則表達式
## 刪除文件中的所有空行(與「grep '.' 」效果相同)
sed ‘/^$/d’ ## 方法1
sed ‘/./!d’ ## 方法2
## 只保留多個相鄰空行的第一行。並且刪除文件頂部和尾部的空行。
## (模擬「cat -s」)
sed ‘/./,/^$/!d’ ##方法1,刪除文件頂部的空行,允許尾部保留一空行
sed ‘/^$/N;/ $/D’ ##方法2,允許頂部保留一空行,尾部不留空行
## 只保留多個相鄰空行的前兩行。
sed ‘/^$/N;/ $/N;//D’
## 刪除文件頂部的所有空行
sed ‘/./,$!d’
## 刪除文件尾部的所有空行
sed -e :a -e ‘/^ *$/{$d;N;ba’ -e ‘}’ ## 對所有sed有效
sed -e :a -e ‘/^ *$/N;/ $/ba’ ## 同上,但只對 gsed 3.02.*有效
## 刪除每個段落的最後一行
sed -n ‘/^$/{p;h;};/./{x;/./p;}’
# 特殊應用:
--------
## 移除手冊頁(man page)中的nroff標記。在Unix System V或bash shell下使
## 用'echo'命令時可能需要加上 -e 選項。
sed “s/.echo //g” ## 外層的雙括號是必須的(Unix環境)
sed ’s/.^H//g’ ## 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed ’s/.x08//g' ## sed 1.5,GNU sed,ssed所使用的十六進制的表示方法
## 提取新聞組或 e-mail 的郵件頭
sed ‘/^$/q’ ## 刪除第一行空行後的所有內容
## 提取新聞組或 e-mail 的正文部分
sed ‘1,/^$/d’ ## 刪除第一行空行之前的所有內容
## 從郵件頭提取「Subject」(標題欄字段),並移除開頭的「Subject:」字樣
sed ‘/^Subject: */!d; s///;q’
## 從郵件頭獲得回覆地址
sed ‘/^Reply-To:/q; /^From:/h; /./d;g;q’
## 獲取郵件地址。在上一個腳本所產生的那一行郵件頭的基礎上進一步的將非電郵
## 地址的部分剃除。(見上一腳本)
sed ’s/ (.)//; s/>.//; s/.[:<] *//'
## 在每一行開頭加上一個尖括號和空格(引用信息)
sed ’s/^/> /'
## 將每一行開頭處的尖括號和空格刪除(解除引用)
sed ’s/^> //'
## 移除大部分的HTML標籤(包括跨行標籤)
sed -e :a -e ’s/<[^>]*>//g;/</N;//ba'
## 將分成多卷的uuencode文件解碼。移除文件頭信息,只保留uuencode編碼部分。
## 文件必須以特定順序傳給sed。下面第一種版本的腳本可以直接在命令行下輸入;
## 第二種版本則可以放入一個帶執行權限的shell腳本中。(由Rahul Dhesi的一
## 個腳本修改而來。)
sed ‘/^end/,/^begin/d’ file1 file2 … fileX | uudecode ## vers. 1
sed ‘/^end/,/^begin/d’ “$@” | uudecode ## vers. 2
## 將文件中的段落以字母順序排序。段落間以(一行或多行)空行分隔。GNU sed使用
## 字元「v」來表示垂直製表符,這裡用它來作為換行符的佔位符——當然你也可以
## 用其他未在文件中使用的字符來代替它。
sed ‘/./{H;d;};x;s/ /={NL}=/g’ file | sort | sed ‘1s/={NL}=//;s/={NL}=/ /g’
gsed ‘/./{H;d};x;y/ /v/’ file | sort | sed ‘1s/v//;y/v/ /’
## 分別壓縮每個.TXT文件,壓縮後刪除原來的文件並將壓縮後的.ZIP文件
## 命名為與原來相同的名字(只是擴展名不同)。(DOS環境:「dir /b」
## 顯示不帶路徑的文件名)。
echo @echo off >zipup.bat
dir /b .txt | sed “s/^(.).TXT/pkzip -mo 1 1.TXT/” »zipup.bat
使用SED:Sed接受一個或多個編輯命令,並且每讀入一行後就依次應用這些命令。
當讀入第一行輸入後,sed對其應用所有的命令,然後將結果輸出。接著再讀入第二
行輸入,對其應用所有的命令……並重複這個過程。上一個例子中sed由標準輸入設
備(即命令解釋器,通常是以管道輸入的形式)獲得輸入。在命令行給出一個或多
個文件名作為參數時,這些文件取代標準輸入設備成為sed的輸入。sed的輸出將被
送到標準輸出(顯示器)。因此:
cat filename | sed ‘10q’ ## 使用管道輸入
sed ‘10q’ filename ## 同樣效果,但不使用管道輸入
sed ‘10q’ filename > newfile ## 將輸出轉移(重定向)到磁盤上
要瞭解sed命令的使用說明,包括如何通過腳本文件(而非從命令行)來使用這些命
令,請參閱《sed & awk》第二版,作者Dale Dougherty和Arnold Robbins
(O'Reilly,1997;http://www.ora.com),《UNIX Text Processing》,作者
Dale Dougherty和Tim O'Reilly(Hayden Books,1987)或者是Mike Arst寫的教
程——壓縮包的名稱是「U-SEDIT2.ZIP」(在許多站點上都找得到)。要發掘sed
的潛力,則必須對「正則表達式」有足夠的理解。正則表達式的資料可以看
《Mastering Regular Expressions》作者Jeffrey Friedl(O'reilly 1997)。
Unix系統所提供的手冊頁(「man」)也會有所幫助(試一下這些命令
「man sed」、「man regexp」,或者看「man ed」中關於正則表達式的部分),但
手冊提供的信息比較「抽象」——這也是它一直為人所詬病的。不過,它本來就不
是用來教初學者如何使用sed或正則表達式的教材,而只是為那些熟悉這些工具的人
提供的一些文本參考。
括號語法:前面的例子對sed命令基本上都使用單引號('...')而非雙引號
("...")這是因為sed通常是在Unix平台上使用。單引號下,Unix的shell(命令
解釋器)不會對美元符($)和後引號(`...`)進行解釋和執行。而在雙引號下
美元符會被展開為變量或參數的值,後引號中的命令被執行並以輸出的結果代替
後引號中的內容。而在「csh」及其衍生的shell中使用感嘆號(!)時需要在其前
面加上轉義用的反斜槓(就像這樣:!)以保證上面所使用的例子能正常運行
(包括使用單引號的情況下)。DOS版本的Sed則一律使用雙引號("...")而不是
引號來圈起命令。
' '的用法:為了使本文保持行文簡潔,我們在腳本中使用' '來表示一個製表
符。但是現在大部分版本的sed還不能識別' '的簡寫方式,因此當在命令行中為
腳本輸入製表符時,你應該直接按TAB鍵來輸入製表符而不是輸入' '。下列的工
具軟件都支持' '做為一個正則表達式的字元來表示製表符:awk、perl、HHsed、
sedmod以及GNU sed v3.02.80。
不同版本的SED:不同的版本間的sed會有些不同之處,可以想像它們之間在語法上
會有差異。具體而言,它們中大部分不支持在編輯命令中間使用標籤(:name)或分
支命令(b,t),除非是放在那些的末尾。這篇文檔中我們儘量選用了可移植性較高
的語法,以使大多數版本的sed的用戶都能使用這些腳本。不過GNU版本的sed允許使
用更簡潔的語法。想像一下當讀者看到一個很長的命令時的心情:
sed -e ‘/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d
好消息是GNU sed能讓命令更緊湊:
sed ‘/AAA/b;/BBB/b;/CCC/b;d’ ## 甚至可以寫成
sed ‘/AAA|BBB|CCC/b;d’
此外,請注意雖然許多版本的sed接受象「/one/ s/RE1/RE2/」這種在's'前帶有空
格的命令,但這些版本中有些卻不接受這樣的命令:「/one/! s/RE1/RE2/」。這時
只需要把中間的空格去掉就行了。
速度優化:當由於某種原因(比如輸入文件較大、處理器或硬盤較慢等)需要提高
命令執行速度時,可以考慮在替換命令(「s/.../.../」)前面加上地址表達式來
提高速度。舉例來說:
sed ’s/foo/bar/g' filename ## 標準替換命令
sed ‘/foo/ s/foo/bar/g’ filename ## 速度更快
sed ‘/foo/ s//bar/g’ filename ## 簡寫形式
當只需要顯示文件的前面的部分或需要刪除後面的內容時,可以在腳本中使用「q」
命令(退出命令)。在處理大的文件時,這會節省大量時間。因此:
sed -n ‘45,50p’ filename ## 顯示第45到50行
sed -n ‘51q;45,50p’ filename ## 一樣,但快得多
Author w0x7ce
LastMod 2021-09-13