PHP查詢MySQL大量資料的記憶體

2021-06-06 00:57:25 字數 1284 閱讀 7613

這篇文章主要是從原理, 手冊和原始碼分析在php中查詢mysql返回大量結果時, 記憶體占用的問題, 同時對使用mysql c api也有涉及。

昨天, 有同事在php討論群裡提到, 他做的乙個專案由於mysql查詢返回的結果太多(達10萬條), 從而導致php記憶體不夠用。 所以, 他問, 在執行下面的**遍歷返回的mysql結果之前, 資料是否已經在記憶體中了? -

while ($row = mysql_fetch_assoc($result))

當然, 這種問題有許多優化的方法。 不過, 就這個問題來講, 我首先想到, mysql是經典的c/s(client/server, 客戶端/伺服器)模型, 在遍歷結果集之前, 底層的實現可能已經把所有的資料通過網路(假設使用tcp/ip)讀到了client的緩衝區, 也有另一種可能, 就是資料還在server端的傳送緩衝區裡, 並沒有傳給client.

在檢視php和mysql的原始碼之前, 我注意到php手冊裡有兩個功能相近的函式:

mysql_query()

mysql_unbuffered_query()

兩個函式的字面意思和說明證實了我的想法, 前乙個函式執行時, 會把所有的結果集從server端讀到client端的緩衝區中, 而後乙個則沒有, 這就是「unbuffered(未緩衝)」的意思。

那就是說, 如果用mysql_unbuffered_query()執行了一條返回大量結果集的sql語句, 在遍歷結果之前, php的記憶體是沒有被結果集占用的。 而用mysql_query()來執行同樣的語句的話, 函式返回時, php的記憶體占用便會急劇增加, 立即耗光記憶體。

如果閱讀php的相關**, 可以看到這兩個函式的實現上的異同:

/* /* }}} */

/* /* }}} */

兩個函式都呼叫了php_mysql_do_query(), 只差了第2個引數的不同, mysql_store_result和mysql_use_result. 再看php_mysql_do_query()的實現:

if(use_store == mysql_use_result) else

mysql_use_result()和mysql_store_result()是mysql的c api函式, 這兩個c api函式的區別就是後者把結果集從mysql server端全部讀取到了client端, 前者只是讀取了結果集的元資訊。

回到php, 使用mysql_unbuffered_query(), 可以避免記憶體的立即占用。 如果在遍歷的過程不對結果進行「php快取」(如放到某陣列中), 則整個執行過程雖然操作了十萬條或者百萬條或者更多的資料, 但php占用的記憶體始終是非常小的。

PHP查詢MySQL大量資料的記憶體

這篇文章主要是從原理,手冊和原始碼分析在php中查詢mysql返回大量結果時,記憶體占用的問題,同時對使用mysql c api也有涉及。昨天,有同事在php討論群裡提到,他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用。所以,他問,在執行下面的 遍歷返回的my...

PHP查詢MySQL大量資料的記憶體

這篇文章主要是從原理,手冊和原始碼分析在php中查詢mysql返回大量結果時,記憶體占用的問題,同時對使用mysql c api也有涉及。昨天,有同事在php討論群裡提到,他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用。所以,他問,在執行下面的 遍歷返回的my...

PHP查詢MySQL大量資料的記憶體占用分析

from 這篇文章主要是從原理,手冊和原始碼分析在php中查詢mysql返回大量結果時,記憶體占用的問題,同時對使用mysql c api也有涉及.昨天,有同事在php討論群裡提到,他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用.所以,他問,在執行下面的 遍歷...