CDH hive的mr架構配置檔案的選擇

2021-06-21 10:51:30 字數 1188 閱讀 2252

我們都知道hive是在mapreduce基礎上執行任務的,那麼在用cdh的時候,因為cdh安裝時提供了好幾個hadoop的配置檔案供選擇,分別有conf.cloudera.hdfs1,conf.cloudera.mapreduce1,conf.cloudera.yarn1,並且通過alternatives --display hadoop-conf的命令可以看到當前選擇的hadoop-conf是哪乙個:

hadoop-conf  -status is manual

/etc/hadoop/conf.empty - priority 10

/etc/hadoop/conf.cloudera.hdfs1 - priority 90

/etc/hadoop/conf.cloudera.yarn1 - priority 91

/etc/hadoop/conf.cloudera.mapreduce1 - priority 92

current 'best' version is /etc/hadoop/conf.cloudera.mapreduce1.

從上面可以看出hadoop-conf的可選項以及各個的優先順序,在自動情況下,會選擇conf.cloudera.mapreduce1,如果手動設定可以自由選擇。

在cdh  hive的使用時需要指定採用哪種mr架構,mrv1還是mrv2,如果選擇mrv2,那麼就是yarn架構了,這時我們需要手動修改hadoop-conf為conf.cloudera.yarn1,即alternative --config hadoop-conf ,出現

there are 5 programs which provide 'hadoop-conf'.

1  /etc/hadoop/conf.empty - priority 10

2  /etc/hadoop/conf.cloudera.hdfs1 - priority 90

3  /etc/hadoop/conf.cloudera.yarn1 - priority 91

4  /etc/hadoop/conf.cloudera.mapreduce1 - priority 

enter to keep the current selection[+],or type selection number:

這樣輸入3即可選擇yarn。

在確定hive採用哪種架構時,我們通過這種方式決定hadoop-conf,如果是yarn,選擇3即可。

HDFS和MR的配置和使用

在 hadoop home etc hadoop core site.xml檔案 fs.defaultfs hdfs 主機名 9000 hadoop.tmp.dir opt module hadoop 2.7.2 data tmp 格式化namenode 只需要格式化一次 命令 hadoop nam...

PySNMP中文5 文件 PySNMP的架構

我們可以從snmp協議演進的角度來看待pysnmp的內部結構。snmp多年來一直在發展,從一種相對簡單的資料結構和檢索方法 snmpv1 v2c 一直發展到強大的開箱即用加密的可擴充套件和模組化框架 snmpv3 按照從最古老的snmp服務到最新的snmp服務的順序,以下是pysnmp api的不同...

配置中文 一 中文環境的配置

在latex中使用中文需要滿足以下三項條件 1 tex原始檔用utf 8編碼儲存 2 匯入合適的包並正確配置 3 使用xelatex編譯 此處1,3不言自明。關於第2點,一般選擇匯入ctex包或xecjk包,經研究,ctex似是xecjk的高階封裝,此外我也從未使用過ctex,因此以下僅以xecjk...