linux系統下分割大檔案的方法

2021-09-02 10:56:19 字數 2341 閱讀 7758

在linux中分割大檔案,比如乙個5gb日誌檔案,需要把它分成多個小檔案,分割後以利於普通的文字編輯器讀取。

有時,需要傳輸20gb的大檔案到另一台伺服器,也需要把它分割成多個檔案,這樣便於傳輸資料。

例1、以每個檔案1000行分割

split命令分割檔案成每個檔案1000行,並且檔名依次為 [字首]aa, [字首]ab, [字首]ac等,預設的字首是x,每個檔案的行數為1000行。

命令:複製**

**如下:

$ split mylog -l 1000

$ wc -l *

4450 mylog

1000 xaa

1000 xab

1000 xac

1000 xad

450 xae

例2、以每個檔案20mb分割

分割檔案為多個20mb的檔案,附帶-b選項。

命令:複製**

**如下:

$ split -b 20m logdata

$ ls -lh | tail -n +2

-rw------- 1 sathiya sathiya 102m jul 25 18:47 logdata

-rw------- 1 sathiya sathiya 20m jul 25 19:20 xaa

-rw------- 1 sathiya sathiya 20m jul 25 19:20 xab

-rw------- 1 sathiya sathiya 20m jul 25 19:20 xac

-rw------- 1 sathiya sathiya 20m jul 25 19:20 xad

-rw------- 1 sathiya sathiya 20m jul 25 19:20 xae

-rw------- 1 sathiya sathiya 1.6m jul 25 19:20 xaf

例3、以每個檔案50mb指定字首分割

使用–bytes選項把檔案分割成多個50mb的檔案,–bytes類似-b選項,在第二個引數指定字首。

命令:複製**

**如下:

$ split --bytes=50m logdata mydatafile

$ ls -lh

total 204m

-rw------- 1 sathiya sathiya 102m jul 25 18:47 logdata

-rw------- 1 sathiya sathiya 50m jul 25 19:23 mydatafileaa

-rw------- 1 sathiya sathiya 50m jul 25 19:23 mydatafileab

-rw------- 1 sathiya sathiya 1.6m jul 25 19:23 mydatafileac

例4、基於行數分割檔案

使用-l選項指定行數來把檔案分割成多個行數相同的檔案。

命令:複製**

**如下:

$ wc -l testfile

2591 testfile

$ split -l 1500 testfile importantlog

$ wc -l *

1500 importantlogaa

1091 importantlogab

2591 testfile

例5、以數字字尾命名分割檔案

使用-d選項可以指定字尾為數字,如00,01,02..,而不是aa,ab,ac。

命令:複製**

**如下:

$ split -d testfile

$ ls

testfile x00 x01 x02

可用選項

複製**

**如下:

短選項 長選項 選項描述

-b –bytes=size size 值為每一輸出檔案的大小,單位為 byte。

-c –line-bytes=size 每一輸出檔中,單行的最大 byte 數。

-d –numeric-suffixes 使用數字作為字尾。

-l –lines=number number 值為每一輸出檔的列數大小。

短選項 長選項 選項描述

-b –bytes=size size 值為每一輸出檔案的大小,單位為 byte。

-c –line-bytes=size 每一輸出檔中,單行的最大 byte 數。

-d –numeric-suffixes 使用數字作為字尾。

-l –lines=number number 值為每一輸出檔的列數大小。

Linux下分割大檔案

在排查專案問題的時候,日誌檔案是很有參考價值的。但是如果專案執行時間比較久,產生的日誌可能是海量的,如果需要檢視較大日誌檔案就會很麻煩,我們可以使用linux提供的split命令,將較大的日誌檔案切割為小檔案,方便我們檢視日誌檔案,進行問題的定位。1.切割檔案 1 使用split分割大檔案 原檔案為...

linux 分割大檔案

你曾經是否想要把乙個大檔案分割成多個小檔案?比如乙個5gb日誌檔案,我們需要把它分成多個小檔案,這樣我們才有可能使用普通的文字編輯器讀取它。有時我們需要傳輸20gb的大檔案到另一台伺服器,這就需要我們把它分割成多個檔案,這樣便於傳輸資料。下面我們來通過五個例項來講解它。split命令分割檔案成每個檔...

Linux下平均分割大檔案

下面表示將 dataset分割成小檔案,每個10000行,以數字作為字尾形式,一共佔兩位 split l 10000 dataset d a 2 partition dataset 如果有不明白的 split help 或 man split 合併小檔案為乙個大檔案 find dir type f ...