Linux刪除重複行

2021-08-26 10:04:36 字數 765 閱讀 5554

文字處理時,經常要刪除重複行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

sort -n $file | awk ''

第三,用sort+sed命令,同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

shell指令碼

# !/bin/sh

file='test.txt'

sort -n $file | uniq

sort -n $file | awk ''

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

測試檔案:

yanggang@barry$ cat test.txt

aaabbbbb

ccccc

123aaaaa

123bbb

aaa執行結果:

yanggang@barry$ ./diffrow.sh

aaaaaaaa

bbbbbbbb

ccccc

123推薦參考:

刪除文字中的重複行sort+uniq/awk/sed

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,...