Hadoop歷史伺服器配置以及日誌管理

2021-09-02 01:37:08 字數 705 閱讀 6629

前言:

先說一下配歷史伺服器的作用

可以幫助我們檢視hdfs後hue上的日誌,更好的分析和解決問題

先在hadoop的配置檔案mapred-site.xml中新增下面內容:
mapreduce.jobhistory.address

node01:10020

node02:19888

在配置日誌聚集功能配合歷史伺服器聯合使用:在配置檔案yarn-site.xml中增加下面配置

yarn.log-aggregation-enable

true

yarn.log-aggregation.retain-seconds

604800

配置完成後重新啟動集群並開啟歷史伺服器程序
stop-all.sh

//在hadoop安裝目錄下執行

sbin/mr-jobhistory-daemon.sh start historyserver //開啟

sbin/mr-jobhistory-daemon.sh stop historyserver // 關閉

最後可以在web頁面檢視,埠號為19888

在hue裡則檢視job browser裡的任務日誌

Hadoop配置歷史伺服器

配置歷史伺服器 為了檢視程式的歷史運 況,需要配置一下歷史伺服器。具體配置步驟如下 配置mapred site.xml atguigu hadoop101 hadoop vi mapred site.xml 在該檔案裡面增加如下配置。mapreduce.jobhistory.addressname ...

hadoop配置歷史伺服器

1 配置 mapred site.xml root master hadoop 2.7.2 vimapred site xml 在該檔案裡面增加如下配置。mapreduce.jobhistory.address master 10020 master 19888 2.啟動歷史伺服器 root mas...

hadoop配置歷史伺服器 配置日誌聚集

配置歷史伺服器 1 在mapred site.xml中寫入一下配置 property name mapreduce.jobhistory.address name value hadoop101 10020 value property property name name value hadoop...