HDFS架構簡述

2021-09-19 20:17:42 字數 720 閱讀 9352

hdfs架構簡述

一、hdfs簡介

hdfs(hadoop distributed file system):hadoop分布式檔案系統。是基於流資料模式訪問和處理超大檔案的需要而開發的,可以執行於廉價的伺服器上。它所具有的高容錯,高可靠性,高可擴充套件性,高獲得性,高吞吐率等特徵為海量資料提供了不怕故障的儲存,為超大資料集的應用帶來了很多便利。簡單來說就是把乙個超大號檔案按一定大小分割並放置在多台伺服器上,這樣多台伺服器同時工作,效率超高,而且安全性也會提高。

二、hdfs組成結構以及各部分作用

hdfs主要由四個部分組成,分別為client,namenode、datanode、以及secondary namenode組成。

2.1client(客戶端)

2.2namenode(管理者)

namenode在hdfs是管理者的作用,類似於現實世界中的國王地位,客戶端和secondary namenode都是與他進行通訊,然後由他發號施令來操作datanode。主要作用有:

2.4secondary namenode

他是namenode的死忠,幫助namenode完成一些工作,並且在namenode要掛的時候給他續命,主要作用如下:

三、副本放置策略

第乙個副本:放置在上傳檔案的dn;如果是集群外提交,則隨機挑選一台磁碟不太滿,cpu不太忙的節點。

第二個副本:放置在於第乙個副本不同的 機架的節點上。

sanm.pzi.cn

簡述hdfs工作原理 HDFS的工作原理

hdfs 的工作原理 hadoop 分布式檔案系統 hdfs 是一種被設計成適合執行在通用硬體上的分布式檔案系統。hdfs 是乙個高度容錯性的系統,適合部署在廉價的 機器上。它能提供高吞吐量的資料訪問,非常適合大規模資料集上的應用。要理解 hdfs 的內部工作原理,首先要理解什麼是分布式 檔案系統。...

多層架構簡述

使用多層架構進行系統開發是現今系統設計的流行趨勢。通過分解業務細節,將不同的功能 分散開來,更利於系統的設計和開發,同時為可能的變更提供了更小的單元。以下就是乙個典型的多層體系結構圖。首先我們以 訂單 order 為例,進行乙個簡單的業務分解。1.訂單自然包括訂單的內容 orderinfo 其中有諸...

多層架構簡述

分類 多層架構 2007 06 20 14 47 2247人閱讀收藏 舉報 資料庫ioc 架構設計 儲存session作業 使用多層架構進行系統開發是現今系統設計的流行趨勢。通過分解業務細節,將不同的功能 分散開來,更利於系統的設計和開發,同時為可能的變更提供了更小的單元。以下就是乙個典型的多層體系...