雲計算HDFS的讀流程和寫流程

2021-12-30 10:54:16 字數 883 閱讀 9356

雲計算hdfs的讀流程和寫流程。

1、寫流程

如上:client表示客戶端,namenode為主,datanode為從,要儲存的資料為data

1、客戶端向namenode發起請求,需要儲存資料data

2、因為namenode中是記錄了所有datanode的相關資訊的,而資料最終要儲存的地方就是datanode,所以namenode會返回可用的datanode的資訊給客戶端

3、將data分為1和2這兩個資料塊

4、客戶端會將資料塊儲存到namenode返回給他的datanode1中去

5、因為資料塊需要儲存多份,所以datanode之間會相互傳輸來進行儲存

6、datanode儲存完資料後,會反饋給namenode,namenode會將對應的datanode的相關資訊進行更新

2、讀流程

1、客戶端向namenode發起請求,需要獲取名字為1的資料塊

2、namenode中儲存了該資料塊儲存的位置,將datanode的資訊返回給客戶端

3、客戶端就近的方式去從datanode獲取資料

4、如果某個datanode無法訪問

5、從另乙個datanode中去獲取資料

HDFS讀取流程和寫流程

讀 1.客戶端或者使用者通過呼叫 filesystem 物件的 open 方法開啟需要讀取的檔案,這對 hdfs 來說是常見乙個分布式檔案系統的乙個讀取例項。2.filesystem 通過遠端協議呼叫 namenode 確定檔案的前幾個 block 的位置。對於每乙個 block,namenode ...

HBase的寫流程和讀流程

1.獲取meta表的rootregion位置資訊 在客戶端寫程序時,第一次寫時,client先通過zookeeper獲取到meta表對應的region位置資訊,然後加入到程序快取中,後續再讀寫時,直接讀取快取的meta資訊對應的region資訊就行.2.找到資料要寫在哪個region上 根據獲取到的...

HDFS讀檔案流程

hdfs讀檔案流程圖如下 1 client通過filesystem.open path 方法,去與nn進行rpc通訊,nn會校驗傳入的路徑是否存在,使用者是否有許可權訪問該路徑下的檔案。2 校驗完成後,返回部分或者全部的block列表。其實就是返回fsdatainputstream物件。3 clie...