Linux刪除重複行

2022-07-27 19:18:16 字數 626 閱讀 6989

文字處理時,經常要刪除重複行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

sort -n $file | awk ''

第三,用sort+sed命令,同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

shell指令碼

測試檔案:

yanggang@barry$ cat test.txt 

aaabbbbb

ccccc

123aaaaa

123bbb

aaa執行結果:

yanggang@barry$ ./diffrow.sh 

aaaaaaaa

bbbbbbbb

ccccc

123推薦參考:

刪除文字中的重複行sort+uniq/awk/sed

sed單行指令碼快速參考unix 流編輯器

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...