Hadoop重新格式化

2021-10-12 12:37:14 字數 1010 閱讀 1182

hadoop進行多次的格式化(hdfs namenode-format),會導致找不到datanode結點。

每次格式化後,名稱結點 的clusterid(集群id)會被新建,而資料結點的clusterid還是原來的,造成名稱結點和資料節點的clusterid不一致

在重新格式化之前一定要先刪除data資料和log日誌。然後再進行格式化。

停止所有hadoop程序(stop-all.sh)

刪除 配置檔案core-site.xmlhdfs-site.xml中指定目錄下的檔案

vim /bigdate/hadoop-2.6.4/etc/hadoop/hdfs-site.xml

dfs.name.dir<

/name>

/root/bigdate/hadoop-

2.6.4

/hdfs/name<

/value>

<

/property>

dfs.data.dir<

/name>

/root/bigdate/hadoop-

2.6.4

/hdfs/data<

/value>

<

/property>

<

/configuration>

刪除 dfs.name.dir和dfs.data.dir所指目錄裡的檔案

(rm -rf /root/bigdate/hadoop-2.6.4/hdfs/name data)

刪除hadoop日誌檔案和快取檔案

rm -rf logs tmp

重新格式化檔案系統(hdfs namenode - format 或 hadoop namenode - format)

啟動hadoop程序(start-all.sh)

tip:各節點都要刪除指定檔案

重新格式化hadoop

首先將hdfs site.xml檔案中的 片 dfs.name.dir home hadoop hdfs name namenode上儲存hdfs名字空間元資料 dfs.data.dir home hadoop hdsf data datanode上資料塊的物理儲存位置 中的指定目錄刪除。然後將co...

Hadoop之 重新格式化HDFS的方案

了解hadoop的同學都知道,hadoop有兩個核心的組成部分,乙個是hdfs,另乙個則是mapreduce,hdfs作為hadoop的資料儲存方案,mapreduce則提供計算服務 同時,hdfs作為一種分布式檔案系統,它的安裝也是需要相應的格式化操作的,如果安裝失敗或者我們需要重新安裝的時候,那...

Hadoop namenode重新格式化需注意問題

hadoop namenode format 2 hadoop的namenode元資料目錄 即hdfs site.xml配置檔案中的dfs.namenode.name.dir屬性,預設值是 dfs name 同樣如果沒有配置該屬性,那麼hadoop在格式化時將自行建立。必須注意的是在格式化前必須清楚...