YARN排程器詳解

2021-10-01 11:22:27 字數 976 閱讀 5008

一.先介紹下yarn有哪些排程器:

fifo 先進先出

capacity 計算

fair 公平

二.這些排程器有什麼差異

fifo:意思就是誰的job先執行就會占用當前的所有資源,直到這個job執行結束之後才會執行下乙個job,再生產上面不推薦,因為如果我凌晨一點執行了乙個大型的job需要跑四個小時才能跑完,兩點的時候我執行乙個很小的job,正常跑只需要跑五分鐘就跑好了,如果使用這個排程器,我必須要等第乙個job跑完之後才能跑第二個job。

capacity:apache版本的yarn的預設排程器,由yarn.resourcemanager.scheduler.monitor.policies這個引數控制,這個引數預設是:org.apache.hadoop.yarn.server.resourcemanager.monitor.capacity.proportionalcapacitypreemptionpolicy。這個排程器會專門生成乙個佇列來執行小任務,但是如果沒有小任務執行的時候,這個佇列也會把資源占用,並沒有釋放

fair:cdh預設排程器,這個排程器並不會預先占用一些資源,而是通過動態排程來實現資源分配的,假如我一點執行了乙個三個小時的job,兩點的時候執行了乙個小的job,首先會檢視第乙個job裡面是否有已經跑完並釋放資源的container,如果要是存在則在這個釋放資源的container裡面跑第二個job,這個排程器再跑小任務的時候存在一定的延遲,因為並沒有乙個專門的佇列再跑這些小任務,而是需要上個job裡面的 container跑完釋放資源之後,才可以跑第二個job

YARN的排程器

yarn主要就是為了排程資源,管理任務等。resourcemanager yarn上主節點,接收客戶端提交的任務,對資源進行分配 nodemanager yarn上從節點,主要進行任務計算 jobhistoryserver 檢視已經完成的任務歷史日誌記錄的服務 timelineserver hado...

Yarn 資源排程器

資源排程器是什麼?yarn中負責集群資源分配的是scheduler。分成三種型別 fifo scheduler,capacity scheduler,fair scheduler。fifo scheduler 先進先出佇列,任務先提交就會被先執行,優先滿足最先被提交的任務,之後若有空餘資源再分配給後...

Yarn資源排程器

yarn是乙個資源排程平台,負責為運算程式提供伺服器運算資源,相當於乙個分布式的作業系統平台,而mapreduce等運算程式相當於作業系統之上的應用程式 resourcemanager 負責所有資源的監控 分配和管理。nodemanager 負責每乙個節點的維護。有了這個id,job就知道提交時所用...