Hadoop配置Web端日誌

2021-10-24 22:21:53 字數 1915 閱讀 7208

目錄

1.先關閉nodemanager 、resourcemanager和historymanager​

2.配置yarn-site.xml

3.啟動nodemanager 、resourcemanager和historymanager

4.刪除hdfs上已經存在的輸出檔案

5.執行wordcount程式

日誌聚集概念:應用執行完成以後,將程式執行日誌資訊上傳到hdfs系統上。

日誌聚集功能好處:可以方便的檢視到程式執行詳情,方便開發除錯。

注意

:開啟日誌聚集功能,

需要重新啟動nodemanager 、resourcemanager和historymanager

配置完成後,可以點開下圖的logs。

開啟日誌聚集功能具體步驟如下:

注意:需要先刪除輸出檔案,才能重新執行程式

[root@hadoop01 hadoop-2.7.3]# bin/hdfs dfs -rm -r /user/atguigu/output

[root@hadoop01 hadoop-2.7.3]# hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /user/atguigu/input /user/atguigu/output
可以檢視logs資訊。

也可以在系統裡輸入命令檢視logs。

Hadoop客戶端環境配置

1.安裝客戶端 通過端使用者可以方便的和集 互 2.修改客戶端 bashrc alias hadoop home work hadoop client hadoop client hadoop bin hadoop hadoop 可執行檔案位置 alias hls hadoop fs ls alia...

hadoop配置歷史伺服器 配置日誌聚集

配置歷史伺服器 1 在mapred site.xml中寫入一下配置 property name mapreduce.jobhistory.address name value hadoop101 10020 value property property name name value hadoop...

rocketmq客戶端日誌配置

rocketmq客戶端會列印一些日誌如消費進度,心跳等,預設的是滾動10個日誌檔案,每個100mb,又一次看到這個日誌目錄有幾十gb,手動刪除,但是悲劇的是rocketmq沒有釋放這個日誌目錄,導致不能真正的釋放磁碟空間。於是研究了下怎麼配置rocketmq客戶端日誌配置。客戶端日誌配置client...