Yarn工作執行流程

2021-09-23 17:10:45 字數 276 閱讀 7172

(job的提交):

客戶端向resourcemanager提交job請求,申請資源。

resourcemanager向客戶端返回乙個job_id以及共享資源路徑hdfs/tmp

客戶端將共享資源放在共享資源路徑下(job.jar,job.xml,job.xml)。

客戶端向resourcemanager返回共享資源放置成功的響應,真正提交應用程式。

開始執行maptask任務。

所有的maptask執行完成,fetch完成,reducetask執行。

yarn工作流程

對多工執行環境的抽象,包括cpu 記憶體等多維度資源以及環境變數 啟動命令等任務執行的相關環境 執行流程 1 客戶端向rm中提交程式 2 rm向nm中分配乙個container,並在該container中啟動am 3 am向rm註冊,這樣使用者可以直接通過rm檢視應用程式的執行狀態 然後它將為各個任...

YARN工作流程

執行在yarn上的應用程式主要分為兩類 短應用程式和長應用程式,其中,短應用程式是指一定時間內 可能是秒級 分鐘級或小時級,儘管天級別或者更長時間的也存在,但非常少 可執行完成並正常退出的應用程式,比如mapreduce作業 將在第8章介紹 tez dag作業等,長應用程式是指不出意外,永不終止執行...

MapReduce執行在yarn集群流程分析

yarn重要概念 yarn並不清楚使用者提交的程式的執行機制 yarn 只提供運算資源的排程 使用者程式向yarn申請資源,yarn就負責分配資源 yarn中的主管角色叫resourcemanager yarn中具體提供運算資源的角色叫nodemanager 這樣一來,yarn其實就與執行的使用者程...