YARN基本框架介紹

2021-08-14 03:44:18 字數 537 閱讀 4158

在之前的部落格《yarn與mrv1的對比》中介紹了yarn對hadoop 1.0的完善。本文將重點介紹下yarn各個模組的作用與yarn執行流程。

負責與rm排程器協商以獲取資源(用container表示)。

將得到的任務進一步分配給內部的任務(資源的二次分配)。

與nm通訊以啟動/停止任務。

監控所有任務執行狀態,並在任務執行失敗時重新為任務申請資源以重啟任務。

注:rm只負責監控am,並在am執行失敗時候啟動它。rm不負責am內部任務的容錯,任務的容錯由am完成。

應用執行期間,client直接與am通訊獲取應用的狀態、進度更新等資訊。

YARN基本框架

yarn作為資源管理器,任務排程的乙個框架,主要包含三大模組,即resourcemanager rm nodemanager nm aplicationmaster am 今天我們介紹resourcemanager。1 客戶端和resourcemanger互動 clientservice 管理每個應...

YARN基本框架和工作流程

nodemanager nm container yarn的通訊協議 yarn工作流程 排程器應用程式管理器nm是每個節點上的資源和任務管理器,一方面,它會定時地向rm匯報本節點上的資源使用情況和各個container的執行狀態,另一方面,它接收並處理來自am的container啟動 停止等各種請求...

Yarn(一)Yarn通俗介紹

apache hadoop yarn yet another resource negotiator,另一種資源協調者 是一種新的 hadoop 資源管理器,它是乙個通用資源管理系統和排程平台,可為上層應用提供統一的資源管理和排程,它的引入為集群在利用率 資源統一管理和資料共享等方面帶來了巨大好處。...