HDFS及NameNode元資料管理機制細節

2021-08-20 06:46:13 字數 1269 閱讀 7058

namenode是

整個檔案系統的管理節點。它維護著整個檔案系統的檔案目錄樹,檔案/目錄的元資訊和每個檔案對應的資料塊列表。接收使用者的操作請求。

檔案包括:

① fsimage:元資料映象檔案。儲存某一時段namenode記憶體元資料資訊。

② edits:操作日誌檔案。

③ fstime:儲存最近一次checkpoint的時間

以上這些檔案是儲存在linux的檔案系統中。

namenode

的工作特點

namenode

始終在記憶體中儲存

metedata

,用於處理「讀請求」

到有「寫請求」到來時,

namenode

會首先寫

editlog

到磁碟,即向edits檔案中寫日誌,成功返回後,才會修改記憶體,並且向客戶端返回

hadoop

會維護乙個

fsimage

檔案,也就是

namenode

中metedata

的映象,但是

fsimage

不會隨時與

namenode

記憶體中的

metedata

保持一致,而是每隔一段時間通過合併

edits檔案來更新內容。secondary namenode

就是用來合併

fsimage

和edits檔案來更新namenode的

metedata

的。secondarynamenode

的工作流程

1. secondary

通知namenode

切換edits檔案

2.secondary

從namenode

獲得fsimage

和edits(通過http)

3.secondary

將fsimage

載入記憶體,然後開始合併

edits

4.secondary

將新的fsimage

發回給namenode

5.namenode

用新的fsimage

替換舊的

HDFS之namenode管理元資料機制及一些問題

namenode對資料的管理採用了三種儲存形式 記憶體元資料 namesystem 磁碟元資料映象檔案 資料操作日誌檔案 可通過日誌運算出元資料 元素據儲存機制 1 記憶體中有乙份完整的元資料 記憶體meta data 2 磁碟有乙個 準完整 的元資料映象 fsimage 檔案 在namenode的...

HDFS中namenode元資料管理機制

元資料 包含兩個內容 1 filename 2 block塊儲存位置 剛開啟hdfs時,datanode匯報塊儲存主機位置。如圖所示 1 當client向namenode發出更新元資料請求時,namenode會根據更新的資料內容存放位置等更新好元資料。而每次做的更新操作都會被記錄到edits中。2 ...

HDFS之NameNode故障處理

namenode故障後,可以採用如下兩種方法恢復資料。方法一 將secondarynamenode中資料拷貝到namenode儲存資料的目錄 1.kill 9 namenode程序 2.刪除namenode儲存的資料 opt module hadoop 2.7.2 data tmp dfs name...