YARN的工作原理詳解

2021-08-27 16:13:28 字數 1003 閱讀 6435

yarn是乙個集群資源的管理與任務排程的分布式框架

官網解釋如下:

hadoop yarn: a framework for jobschedulingandcluster resourcemanagement.

yarn的工作原理

1.客戶端提交應用程式給resourcemanager

(其實是每個container容器被分配後,由每個機器上的nodemanger來啟動該container)

yarn的功能

>>集群資源的管理

主節點 -rm resourcemanager

通過節點伺服器定期向主節點報告使用情況

從節點    -nd    nodemanager

通過自己的程序管理每乙個節點服務其的使用情況

>>任務排程

>>>yarn上執行多個應用程式

>>>應用程式執行需要資源

>>>對應用程式的資源如何進行分配

>>>yarn如何任務排程

resourcemanager

>>>處理客戶端請求

>>>監控nodemanger

>>>資源分配與排程

nodemanger 

>>>單個節點管理

>>>處理來自resourcemanger的命令

需要劃分空間,執行任務

>>>申請資源

>>>監控、管理nodemanger上的任務運**況

container

對資源抽象和封裝,目的是為了讓每個應用程式對應的任務完成執行

任務之間不能相互影響,任務不能相互交叉使用和共享

Yarn的工作機制原理

2 工作機制詳解 0 mr程式提交到客戶端所在的節點。2 rm將該應用程式的資源路徑返回給yarnrunner。3 該程式將執行所需資源提交到hdfs上。5 rm將使用者的請求初始化成乙個task。6 其中乙個nodemanager領取到task任務。8 container從hdfs上拷貝資源到本地...

YARN基本原理和YARN工作流程

舊的mapreduce架構 基本概念 舊的架構的問題 jobtracker是mapreduce的集中處理點,存在單點故障 jobtracker完成了太多的任務,造成了過多的資源消耗,當mapreduce job 非常多的時候,會造成很大的記憶體開銷。這也是業界普遍總結出老hadoop的mapredu...

PHP的工作原理詳解

1.php的所有應用程式都是通過web伺服器 如iis,nginx或apache 和php引擎程式解釋執行完成的,工作過程 1 當使用者在瀏覽器位址中輸入要訪問的php頁面檔名,然後觸發乙個web請求,並將請求傳送到web伺服器。2 web伺服器接受這個請求,並根據其字尾進行判斷是乙個php請求,w...