Yarn 的一些配置項

2021-10-01 23:41:39 字數 743 閱讀 5131

為了易於管理資源和排程資源,hadoop yarn內建了資源規整化演算法,它規定了最小可申請資源量、最大可申請資源量和資源規整化因子,如果應用程式申請的資源量小於最小可申請資源量,則yarn會將其大小改為最小可申請量,也就是說,應用程式獲得資源不會小於自己申請的資源,但也不一定相等;如果應用程式申請的資源量大於最大可申請資源量,則會丟擲異常,無法申請成功;規整化因子是用來規整化應用程式資源的,應用程式申請的資源如果不是該因子的整數倍,則將被修改為最小的整數倍對應的值,公式為ceil(a/b)*b,其中a是應用程式申請的資源,b為規整化因子。

yarn.scheduler.minimum-allocation-mb:最小可申請記憶體量,預設是1024

yarn.scheduler.minimum-allocation-vcores:最小可申請cpu數,預設是1

不同排程器不同,具體如下:

fifo和capacity scheduler,規整化因子等於最小可申請資源量,不可單獨配置。

fair scheduler:規整化因子通過引數yarn.scheduler.increment-allocation-mb和yarn.scheduler.increment-allocation-vcores設定,預設是1024和1。

通過以上介紹可知,應用程式申請到資源量可能大於資源申請的資源量,比如yarn的最小可申請資源記憶體量為1024,規整因子是1024,如果乙個應用程式申請1500記憶體,則會得到2048記憶體,如果規整因子是512,則得到1536記憶體。

YARN的一些常見錯誤

1 hadoop yarn常見問題有哪些?2 你是如何解決這些問題的?本文彙總了幾個hadoop yarn中常見問題以及解決方案,注意,本文介紹解決方案適用於hadoop 2.2.0以及以上版本。1 預設情況下,各個節點的負載不均衡 任務數目不同 有的節點很多任務在跑,有的沒有任務,怎樣讓各個節點任...

yarn的一些知識點

1.5 yarn的作業執行流程 yarn yet another resource negotiator 是乙個資源排程平台,負責為運算程式提供伺服器運算資源,相當於乙個分布式的作業系統平台,而 mapreduce 等運算程式則相當於執行於作業系統之上的應用程式。yarn 是 hadoop2.x 版...

vue更改一些配置項 入門篇

下面建立乙個名為vuedemo的專案 建立專案的命令 vue init webpack 專案名稱 vue build是選擇的打包的方式 install vue router用來安裝路由 用vs code開啟專案,使用ctrl 開啟控制台,輸入npm run dev啟動專案 可能很多人會問,為什麼網上...