Hadoop常見錯誤解決

2021-07-01 21:17:22 字數 1902 閱讀 7962

1. 通過命令和檢視日誌檔案檢視hadoop啟動和運**況

在namenode端,可以通過

tail -100 /var/log/hadoop/hadoop/hadoop-hadoop-namenode-hadoop-namenode.log
檢視namenode的執行日誌

在datanode端也可以通過

cat /var/log/hadoop/hadoop/hadoop-hadoop-datanode-hadoop-datanode1.log
檢視datanode的執行日誌。

通過jps命令分別在datanode和namenode端執行,檢視已啟動的服務。

2. namenode不能啟動:

cannot lock storage ……tmp/dfs/name. the directory is already locked.

也許是因為執行hadoop的賬號對這個資料夾tmp/dfs/name沒有許可權。可以使用如下命令解決

chown -r hadoop:hadoop /usr/hadoop
3. datanode不能啟動

在客戶端日誌顯示 namenode namespaceid = 1713611278; datanode namespaceid = 596511341

這個問題基本上是因為在namenode端多次執行hadoop namenode –format 導致的。在hadoop的core-site.xml檔案中(不同的hadoop版本名字會有不同)找到hadoop.tmp.dir,清空對應的資料夾。舉例:

[hadoop@hadoop-datanode1 hadoop]$ cat core-site.xml

<?xml version="

1.0"?><?xml-stylesheet type="

text/xsl

" href="

configuration.xsl

"?>>>>hadoop.tmp.dir

>/usr/hadoop/tmp

清空

[hadoop@hadoop-datanode1 tmp]$ rm -rf /usr/hadoop/tmp/*
然後重新啟動hadoop,在datanode端用jps看是否datanode已經啟動了。

4. 執行wordcount程式時fs找不到資料夾:

input path does not exist: hdfs://localhost:9000/user/input

在集群環境中,處理的檔案都是在hdfs中,所以必須把要處理的檔案複製到hadoop 某個資料夾中。下面舉例,在fs中新建資料夾,把提前做好的wordcount檔案複製帶hdfs中,最後執行程式。

[hadoop@hadoop-namenode ~]$ hadoop fs -mkdir /tmp/wordcount/input

[hadoop@hadoop-namenode ~]$ hadoop fs -put /home/hadoop/wordcount/input /tmp/wordcount/input

[hadoop@hadoop-namenode ~]$ hadoop fs -ls /tmp/wordcount/input

hadoop jar /home/hadoop/hadoop-examples-1.1.2.jar wordcount /tmp/wordcount/input/input /tmp/wordcount/output

檢視結果

hadoop fs -cat /tmp/wordcount/output/part-r-00000

phpMyAdmin 常見錯誤解決

1 高階功能未全部設定,部分功能不可用。要查出原因請點這裡 解決方法 第一步 在phpmyadmin的主頁中選擇 匯入 然後 從計算機中上傳 要匯入的檔案,選擇phpmyadmin目錄下 examples create tables.sql匯入,會自動建立新的資料庫 phpmyadmin 如果不行,...

MongoDB常見錯誤解決方式

前今天裝了mongodb後,今天早上啟動服務的時候啟動不了了,出現錯誤如下 錯誤 錯誤2 系統找不到指定檔案 思考過程 昨天做測試的時候,先後安裝了兩次mongodb,後來我又刪除 注意不是解除安裝 了乙個mongodb資料夾,當前這個服務是不是預設的mongodb的安裝位址錯誤呢?檢視服務屬性,m...

IIS常見錯誤解決辦法

q 為什麼我的asp頁面到windows2003後就不能執行了,執行aspx正常。a windows2003中預設沒有啟用asp支援,在iis的web service extensions裡找到active server pages,將allow選上,就可以了。q 我的iis只要asp檔案有錯,就顯...