Python記憶體對映檔案讀寫方式

2022-09-26 12:45:16 字數 2771 閱讀 4431

我就廢話不多說了,還是直接看**吧!

import os

import time

import mmap

filename = 'test.txt'

#如果不存在,建立。

if not os.path.exists(filename):

open(filename, 'w')

print(os.path.isdir(filename))

if os.path.isfile(filename):

print(time.ctime(os.path.getctime(filename)))

fd = os.open(filename, os.o_rdwr)

m = mmap.mmap(fd, 50, access=mmap.access_write) # 1024位元組的檔案。

m.seek(2)

buf1 = bytes(b'zhang')

m[2:len(buf1)+2] = buf1

buf2 = b'phil'

m.seek(20) # 定位寫入的位置。

m.write(buf2) # 寫入位元組資料。

m.close()

fd = os.open(filename, os.o_rdwr)

m = mmap.mmap(fd, 50, access=mmap.access_read)

m.seek(20)

buf3 = m.read(len(buf2))

m.close()

print(list(buf3))

操作後的test.txt檔案內容:

zhang phil

補充知識:python對二進位制檔案做記憶體對映,高效優雅地對內容隨機訪問

讀寫二進位制檔案還在使用open函式?

各種組合seek()、read()和write(dzxygzqu)累不累?

使用 mmap 模組實現對檔案的記憶體對映,讓我們讀寫二進位制檔案像運算元組一樣高效優雅。

先給出乙個實用函式,用來演示如何開啟乙個檔案並對它進行記憶體對映操作。

def memory_map(filename, access=mmap.access_write):

size = os.path.getsize(filename)

fd = os.open(filename, os.o_rdwr)

return mmap.mmap(fd, size, access=access)

要使用這個函式,需要先準備乙個已經建立好的檔案並為之填充一些資料。

>>> size = 1000000

>>> with open('data','wb') as f:

f.seek(size-1)

f.write(b'\x00')

接著我們可以使用memory_map()函式對檔案內容做記憶體對映,它返回的mmap物件可以讓我們像運算元組一樣讀寫二進位制檔案!

>>> m = memory_map('data')

>>> len(m)

1000000

>>> m[:10]

b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'

>>> m[0]

0>>> m[0:11]=b'hello world'#改變乙個切片

>>> m.close()

>>> with open('data','rb') as f:#驗證改變已經生效

print(f.read(11))

b'hello world'

由於mmap()返回的mmap物件也可以當作上下文管理器使用,在這種情況下,底層的檔案會自動關閉。

>>> with memory_map('data程式設計客棧') as m:

print(len(m))

print(

1000000

b'hello world'

預設情況下memory_map()函式開啟的檔案既可以讀,也可以寫。對資料的任何修改都會拷貝回原始的檔案中。

如果需要唯讀dzxygzqu訪問,可以為access引數提供mmap.access_read值。

m = memory_map(filename, mmap.access_read)

如果只想要在本地修改資料,並不想將這些修改寫回到原始檔案中,可以使用mmap.access_copy引數。

m = memory_map(filename, mmap.access_copy)

總結:通過mmap將檔案對映到記憶體之後,我們可以高效並優雅地對檔案的內容進行隨機訪問。

與其開啟檔案後通過組合各種seek()、read()和write()呼叫來訪問,不如簡單將檔案對映到記憶體,然後通過切片操作來訪問資料。

需要強調的是,對某個檔案進行記憶體對映並不會導致將整個檔案讀到記憶體中。也就是說,檔案並不會拷貝到某種記憶體緩衝區或陣列上。相反,作業系統只是為檔案內容保留一段虛擬記憶體而已。

當訪問檔案的不同區域時,檔案的這些區域將被讀取並按照需要對映到記憶體區域中。但是,檔案中從未訪問過的部分會簡單地留在磁碟上。這一切都是以透明的方式在幕後完成的。

如果有多個python直譯器對同乙個檔案做了記憶體對映,得到的mmap物件可以用來在直譯器之間交換資料。也就是說,所有的直譯器可以同時讀/寫資料,在乙個直譯器中對資料做出的修改會自動反映到其他直譯器上。

雖然還需要一些額外的步驟來處理同步問題,但是有時候可以使用這種方法作為通過管道或者socket傳輸資料的替代方案。

本文標題: python記憶體對映檔案讀寫方式

本文位址: /jiaoben/python/309812.html

檔案讀寫,共享記憶體和mmap記憶體對映

1傳統的檔案讀寫,需要將磁碟上的資料copy到檔案緩衝區 為了避免對磁碟的反覆讀寫 都在核心空間,然後找到檔案的inode,先去檔案緩衝區中找有沒有這個檔案,如果沒有的話,到磁碟再到檔案緩衝區。2.共享記憶體是兩個程序同時開闢出一塊虛擬位址空間,對映到同一塊物理記憶體上 3.記憶體對映是虛擬位址上直...

記憶體對映檔案(專門讀寫大檔案)zz

引言 檔案操作是應用程式最為基本的功能之一,win32 api和mfc均提供有支援檔案處理的函式和類,常用的有win32 api的createfile writefile readfile 和mfc提供的cfile類等。一般來說,以上這些函式可以滿足大多數場合的要求,但是對於某些特殊應用領域所需要的...

搬 Linux C 記憶體對映方式讀寫檔案

5181人閱讀 2014 03 01 15 12 08 記憶體對映就是將磁碟上的檔案對映到系統記憶體中,對記憶體的修改可以同步到對磁碟檔案的修改。可以對大資料檔案處理,並且可以提高檔案的讀寫速度。include include include include include define numre...