cdh YARN服務啟用Uber優化

2021-10-03 18:38:54 字數 594 閱讀 9019

cdh 5.16.2

uber模式雖然在hadoop2.x版本提供,但是使用的人並不多,預設是關閉的。

那麼啟用它有什麼優點?

uber模式只會向rm申請乙個container,這個container裡會啟用am,接著本任務的所有mapreduce計算都會在該container內完成,不需要am向rm申請其他container。

簡單理解,就是針對於小資料量的計算,都在乙個container中完成,避免多次向集群申請資源。節約了資源和時間。比如像小資料量的count等類似計算,就可以通過啟用uber加速運算。

在yarn服務的performance引數中:

mapreduce.job.ubertask.enable=true  當該值為true,並且滿足以下三個條件時,啟用uber優化

mapreduce.job.ubertask.maxreduces=1 當任務的reduce數<=1時,啟用uber優化

mapreduce.job.ubertask.maxmaps=4  當任務的map數<=4時,啟用uber優化

mapreduce.job.ubertask.maxbytes=64m  當輸入的位元組數<=64m時,啟用uber優化

etcd啟用https服務

目錄生成etcd所需要的ssl證書 修改etcd集群配置檔案 重啟etcd集群 驗證集群健康情況 關於etcd的集群配置可直接參考etcd集群部署 這篇文件只是在其基礎上增加ssl加密驗證的過程。要讓集群使用ssl,首先需要為集群生成ssl證書。我們使用cfssl系列工具來生成相關證書。curl s...

Mac上sshd服務啟用

scp secure copy 命令相信 同學們都知道。今天我想從我的一台同區域網內的linux 機器上拷貝幾個檔案到我的的機上來。突然想到,mac 畢竟不是 linux,sshd 服務預設沒有啟動的可能性很大。到底有沒有sshd服務呢?看看唄?於是 ps auwx grep sshd yin 19...

idea啟用伺服器

ps 有錢請支援正版!2019.1.31 更新 可以啟用2018.1.5 包括該版本 及之前版本,之後的版本我沒測試過 根據作業系統選擇對應版本,osx使用intellijidealicenseserver darwin amd64要先用upx脫殼 brew install upx upx d in...