hadoop yarn 框架梳理學習

2021-09-26 04:45:04 字數 913 閱讀 3179

yarn是yet another resource negotiator的縮寫, apache hadoop yarn 是開源 hadoop 分布式處理框架中的資源管理和作業排程技術。yarn 負責將系統資源分配給在 hadoop 集群中執行的各種應用程式,並排程要在不同集群節點上執行的任務。yarn最大的特點是執行排程與hadoop上執行的任務型別無關。

總結一句話就是:負責hadoop系統的任務排程及資源管理;

1.resourcemanager

hadoop集群具有至少乙個resourcemanager(rm)(應該有備用的rm,如果active的rm一旦掛掉,則備用rm啟動接替工作)。

resourcemanager(rm)是yarn的master程序,其唯一功能是仲裁hadoop集群上的資源,響應客戶端建立containers的請求,排程程式根據特定的多租戶規則確定何人可以在何時何地建立containers。

3.nodemanager

總結:container的監控者,資訊回傳

4.container

關係梳理:總結:動態分配封裝,資源隔離

container 與task container的關係示意圖:

具體排程簡化流程:

建議詳細梳理清楚這個流程!

1.2.

3.4.

Hadoop Yarn 框架原理及運作機制

1.1 yarn 基本架構 1.2 yarn基本組成結構 1 排程器 排程器根據容量 佇列等限制條件 如每個佇列分配一定的資源,最多執行一定數量的作業等 將系統中的資源分配給各個正在執行的應用程式。2 應用程式管理器 使用者提交的每個應用程式均包含1個am,主要功能包括 與rm排程器協商以獲取資源 ...

Hadoop Yarn 框架原理及運作機制

1.1 yarn 基本架構 1.2 yarn基本組成結構 1 排程器 排程器根據容量 佇列等限制條件 如每個佇列分配一定的資源,最多執行一定數量的作業等 將系統中的資源分配給各個正在執行的應用程式。2 應用程式管理器 使用者提交的每個應用程式均包含1個am,主要功能包括 與rm排程器協商以獲取資源 ...

Hadoop Yarn 框架原理及運作機制

1.1 yarn 基本架構 1.2 yarn基本組成結構 container 等幾個元件構成。1 排程器 排程器根據容量 佇列等限制條件 如每個佇列分配一定的資源,最多執行一定數量的作業等 將系統中的資源分配給各個正在執行的應用程式。container 表示,container是乙個動態資源分配單位...