hadoop集群之HDFS和YARN啟動和停止命令

2021-09-07 08:34:59 字數 4311 閱讀 8298

假如我們只有3臺linux虛擬機器,主機名分別為hadoop01、hadoop02和hadoop03,在這3臺機器上,hadoop集群的部署情況如下:

hadoop01:1個namenode,1個datanode,1個journalnode,1個zkfc,1個resourcemanager,1個nodemanager;

hadoop02:1個namenode,1個datanode,1個journalnode,1個zkfc,1個resourcemanager,1個nodemanager;

hadoop03:1個datenode,1個journalnode,1個nodemanager;

下面我們來介紹啟動hdfs和yarn的一些命令。

1.啟動hdfs集群(使用hadoop的批量啟動指令碼)

[root@hadoop01 ~]#

starting namenodes on [hadoop01 hadoop02]

starting journal nodes [hadoop01 hadoop02 hadoop03]

starting zk failover controllers on nn hosts [hadoop01 hadoop02]

[root@hadoop01 ~]#

從上面的啟動日誌可以看出,start-dfs.sh這個啟動指令碼是通過ssh對多個節點的namenode、datanode、journalnode以及zkfc程序進行批量啟動的。

2.停止hdfs集群(使用hadoop的批量啟動指令碼)

[root@hadoop01 ~]#

stopping namenodes on [hadoop01 hadoop02]

hadoop02: stopping namenode

hadoop01: stopping namenode

hadoop02: stopping datanode

hadoop03: stopping datanode

hadoop01: stopping datanode

stopping journal nodes [hadoop01 hadoop02 hadoop03]

hadoop03: stopping journalnode

hadoop02: stopping journalnode

hadoop01: stopping journalnode

stopping zk failover controllers on nn hosts [hadoop01 hadoop02]

hadoop01: stopping zkfc

hadoop02: stopping zkfc

[root@hadoop01 ~]#

3.啟動單個程序

[root@hadoop01 ~]#

[root@hadoop02 ~]#

[root@hadoop01 ~]#

[root@hadoop02 ~]#

[root@hadoop01 ~]#

[root@hadoop02 ~]#

[root@hadoop01 ~]#

[root@hadoop02 ~]#

分別檢視啟動後3臺虛擬機器上的程序情況:

[root@hadoop01 ~]#

jps6695datanode

2002quorumpeermain

6879dfszkfailovercontroller

7035jps

6800journalnode

6580namenode

[root@hadoop01 ~]#

[root@hadoop02 ~]#

jps6360journalnode

6436dfszkfailovercontroller

2130quorumpeermain

6541jps

6255datanode

6155namenode

[root@hadoop02 ~]#

jps5331jps

5103datanode

5204journalnode

2258quorumpeermain

3.停止單個程序

[root@hadoop01 ~]#

jps6695datanode

2002quorumpeermain

8486jps

6879dfszkfailovercontroller

6800journalnode

6580namenode

[root@hadoop01 ~]#

[root@hadoop01 ~]#

[root@hadoop01 ~]#

[root@hadoop01 ~]#

[root@hadoop01 ~]#

stopping zkfc

[root@hadoop01 ~]#

stopping journalnode

[root@hadoop01 ~]#

stopping datanode

[root@hadoop01 ~]#

stopping namenode

[root@hadoop01 ~]#

jps2002quorumpeermain

8572jps

[root@hadoop01 ~]#

[root@hadoop02 ~]#

jps6360journalnode

6436dfszkfailovercontroller

2130quorumpeermain

7378jps

6255datanode

6155namenode

[root@hadoop02 ~]#

stopping zkfc

[root@hadoop02 ~]#

stopping journalnode

[root@hadoop02 ~]#

stopping datanode

[root@hadoop02 ~]#

stopping namenode

[root@hadoop02 ~]#

jps7455jps

2130quorumpeermain

[root@hadoop02 ~]#

jps5103datanode

5204journalnode

5774jps

2258quorumpeermain

stopping journalnode

stopping datanode

jps5818jps

2258quorumpeermain

3.啟動yarn集群(使用hadoop的批量啟動指令碼)

[root@hadoop01 ~]#

starting yarn daemons

[root@hadoop01 ~]#

從上面的啟動日誌可以看出,start-yarn.sh啟動指令碼只在本地啟動乙個resourcemanager程序,而3臺機器上的nodemanager都是通過ssh的方式啟動的。所以hadoop02機器上的resourcemanager需要我們手動去啟動。

4.啟動hadoop02上的resourcemanager程序

5.停止yarn

[root@hadoop01 ~]#

stopping yarn daemons

stopping resourcemanager

hadoop01: stopping nodemanager

hadoop03: stopping nodemanager

hadoop02: stopping nodemanager

no proxyserver to stop

[root@hadoop01 ~]#

通過上面的停止日誌可以看出,stop-yarn.sh指令碼只停止了本地的那個resourcemanager程序,所以hadoop02上的那個resourcemanager我們需要單獨去停止。

6.停止hadoop02上的resourcemanager

注意:啟動和停止單個hdfs相關的程序使用的是"hadoop-daemon.sh"指令碼,而啟動和停止yarn使用的是"yarn-daemon.sh"指令碼。

Hadoop集群之HDFS和YARN啟動和停止命令

1.啟動hdfs集群 使用hadoop的批量啟動指令碼 2.停止hdfs集群 使用hadoop的批量啟動指令碼 3.啟動單個程序 4.分別檢視啟動後3臺虛擬機器上的程序情況 root hadoop01 jps 6695 datanode 2002 quorumpeermain 6879 dfszkf...

Hadoop之HDFS集群吞吐量測試

hadoop官方在hadoop安裝包的share hadoop mapreduce 路徑下提供了testdfsio工具,專門用於測試hdfs的吞吐量。hadoop版本2.6.0 測試命令 hadoop jar opt module hadoop 2.7.7 share hadoop mapreduc...

Hadoop集群配置與HDFS介紹

理解 將多個節點的容量彙總成乙個大的檔案系統,在乙個節點上傳資料,在其的節點上都能夠訪問使用 hdfs 海量資料儲存系統 mapreduce 海量資料的計算系統計算框架 yarn 集群資源管理框架 hdfs的管理者 namenode 作用 1 維護 管理檔案系統的名字空間 元資料資訊 2 負責確定指...