php 讀取大檔案

2021-09-06 23:27:58 字數 2710 閱讀 8117

在php中,對於檔案的讀取時,最快捷的方式莫過於使用一些諸如file、file_get_contents之類的函式,簡簡單單的幾行**就能 很漂亮的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時,這些函式可能就顯的力不從心, 下面將從乙個需求入手來說明對於讀取大檔案時,常用的操作方法。
需求需求

有乙個800m的日誌檔案,大約有500多萬行, 用php返回最後幾行的內容。

實現方法

1. 直接採用file函式來操作

由於 file函式是一次性將所有內容讀入記憶體,而php為了防止一些寫的比較糟糕的程式占用太多的記憶體而導致系統記憶體不足,使伺服器出現宕機,所以預設情況下限制只能最大使用記憶體16m,這是通過php.ini裡的 memory_limit = 16m 來進行設定,這個值如果設定-1,則記憶體使用量不受限制。

下面是一段用file來取出這具檔案最後一行的**:

<?php

ini_set('memory_limit', '-1');

$file = 'access.log';

$data = file($file

);$line = $data[count($data) - 1];

echo

$line

;?>

整個**執行完成耗時 116.9613 (s)。

我機器是2個g的記憶體,當按下f5執行時,系統直接變灰,差不多20分鐘後才恢復過來,可見將這麼大的檔案全部直接讀入記憶體,後果是多少嚴重,所以不在萬 不得以,memory_limit這東西不能調得太高,否則只有打**給機房,讓reset機器了。

2.直接呼叫linux的 tail 命令來顯示最 後幾行

在linux命令列下,可以直接使用 tail -n 10 access.log 很輕易的顯示日誌檔案最後幾行,可以直接用php來呼叫tail命令,執行php**如下:

整個**執行完成耗時 0.0034 (s)

3. 直接使用php的 fseek 來進行檔案操作

這種方式是最為普遍的方式,它不需要將檔案的內容全部讀入內容,而是直接通過指標來操作,所以效率是相當高效的。在使用fseek來對檔案進行操作時,也有多種不同的方法,效率可能也是略有差別的。

方法一

首先通過fseek找到檔案的最後一位eof,然後找最後一行的起始位置,取這一行的資料,再找次一行的起始位置, 再取這一行的位置,依次類推,直到找到了$num行。

#實現**如下

<?php

$fp = fopen($file, "r");

$line = 10;

$pos = -2;

$t = " ";

$data = "";

while ($line > 0)

$t = " ";

$data .= fgets($fp);

$line--;

}fclose($fp

);echo

$data

?>

整個**執行完成耗時 0.0095 (s)

方法二

還是採用fseek的方式從檔案最後開始讀,但這時不是一位一位的讀,而是一塊一塊的讀,每讀一塊資料時,就將讀取後的資料放在乙個buf裡,然後通過換 行符(\n)的個數來判斷是否已經讀完最後$num行資料。

#實現**如下

<?php

$fp = fopen($file, "r");

$num = 10;

$chunk = 4096;

$fs = sprintf("%u", filesize($file

));$max = (intval($fs) == php_int_max) ? php_int_max : filesize($file

);for ($len = 0; $len

< $max; $len += $chunk

)$!", $readdata, $match

);

$data = $match[0];

break; }

}fclose($fp

);echo

$data

;?>

整個**執行完成耗時 0.0009(s)。

方法三

<?php

function tail($fp, $n, $base = 5)

catch (exception$e)

$pos *= $base;

while (!feof($fp

)) }

return

array_slice($lines, 0, $n);}

var_dump(tail(fopen("access.log", "r+"), 10));

?>

整個**執行完成耗時 0.0003(s)

方法四

php的stream_get_line函式 ,讀取快速,讀取50萬條資料大檔案,大概需要20秒左右的時間!例子**如下

$fp = fopen('./iis.log', 'r'); //

檔案 while (!feof($fp

))

}

php讀取大檔案

本文章來給各位同學介紹php中讀取大檔案實現方法詳解吧,有需要了解的同學可進入參考參考。需求如下 現有乙個1g左右的日誌檔案,大約有500多萬行,用php返回最後幾行的內容。實現方法 直接採用file函式來操作 注 由於 file函式是一次性將所有內容讀入記憶體,而php為了防止一些寫的比較糟糕的程...

php讀取大檔案詳解

在php中,對於檔案的讀取時,最快捷的方式莫過於使用一些諸如file file get contents之類的函式,簡簡單單的幾行 就能很漂亮 的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時,這些函式可能就顯的力不從心,下面將從乙個需求入手來說明對於讀取大檔案時,常用的操作方法。需求如...

php 讀取超大檔案

php開發很多時候都要讀取大檔案,比如csv檔案 text檔案等。這些檔案如果很大,比如10個g。這時,直接一次性把所有的內容讀取到記憶體中計算不太現實。遇到這種情況,往往覺得php太弱,實則不然。利用生成器 關鍵字yield 就能解決。好了,上 created by phpstorm.user a...