Hadoop之YARN的主要通訊協議

2021-07-26 07:47:58 字數 493 閱讀 6961

hadoop基礎教程:yarn通訊協議,rpc協議是連線各個元件的「大動脈」,了解不同元件之間的rpc協議有助於我們更深入地學習yarn框架。在yarn中,任何兩個需相互通訊的元件之間僅有乙個rpc協議,而對於任何乙個rpc協議,通訊雙方有一端是client,另一端為server,且client總是主動連線server的,因此,yarn實際上採用的是拉式(pull-based)通訊模型。

admin(管理員)與rm之間的通訊協議—resourcemanageradministrationprotocol:admin通過該rpc協議更新系統配置檔案,比如節點黑白名單、使用者佇列許可權等。

am與nm之間的協議—containermanagementprotocol:am通過該rpc要求nm啟動或者停止container,獲取各個container的使用狀態等資訊。

nm與rm之間的協議—resourcetracker:nm通過該rpc協議向rm註冊,並定時傳送心跳資訊匯報當前節點的資源使用情況和container運**況。

hadoop之 yarn (簡單了解)

yarn通過兩個 守護執行緒提供核心服務 resourcemanager,管理集群所有資源的切分以及作業的排程與監控 nodemanager,執行在集群所有節點上,啟動並監控容器的執行狀況,並負責向resourcemanager匯報。在linux上,hadoop是通過cgroup技術實現contai...

Hadoop核心元件之YARN

作業系統級別的排程框架,可以讓各種計算框架執行在上面 yarn 不同計算框架可以共享同乙個hdfs集群上的資料,享受整體的資源排程 on yarn的好處 與其他計算框架共享集群資源,按資源需要分配,進而提高集群資源的利用率 spark mapreduce storm flink 1 resource...

Hadoop學習筆記之YARN

yarn service框架提供了一流的支援和api,可以在yarn中本地化時間執行的服務。簡而言之 in a nutshell 它作為乙個容器編排平台,用於管理yarn上的貨櫃化服務。它支援yarn中的docker容器和傳統的基於程序的容器。該框架的職責包括執行配置解決方案和安裝,生命週期管理 如...