linux用命令刪除重複行

2021-09-07 03:26:46 字數 667 閱讀 8515

文字處理時,經常要刪除重複行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

sort -n $file | awk ''

第三,用sort+sed命令,同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

shell指令碼

view plainprint?

# !/bin/sh 

file='test.txt' 

sort -n $file | uniq 

sort -n $file | awk '' 

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d' 

測試檔案:

yanggang@barry$ cat test.txt

aaabbbbb

ccccc

aaaaa

bbbaaa

執行結果:

yanggang@barry$ ./diffrow.sh

aaaaaaaa

bbbbbbbb

ccccc

文章**:

linux用命令刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...