hadoop集群的yarn ha配置,親測

2021-08-27 11:32:17 字數 2538 閱讀 4759

yarn-site.xml檔案:

yarn.nodemanager.aux-servicesname>

mapreduce_shufflevalue>

property>

yarn.resourcemanager.ha.enabledname>

truevalue>

property>

yarn.resourcemanager.cluster-idname>

cluster1value>

property>

yarn.resourcemanager.ha.rm-idsname>

rm1,rm2value>

property>

yarn.resourcemanager.hostname.rm1name>

bigdata02.comvalue>

property>

yarn.resourcemanager.hostname.rm2name>

bigdata03.comvalue>

property>

yarn.resourcemanager.zk-addressname>

bigdata01.com:2181,bigdata02.com:2181,bigdata03.com:2181value>

property>

yarn.resourcemanager.recovery.enabledname>

truevalue>

property>

yarn.resourcemanager.store.classname>

org.apache.hadoop.yarn.server.resourcemanager.recovery.zkrmstatestorevalue>

property>

複製配置檔案給其他服務 sc

p−re

tc/h

adoo

p/ya

rn−s

ite.

xmln

ode1

:/op

t/mo

dule

s/ha

doop

−2.5.0−c

dh5.3.6/e

tc/h

adoo

p/s cp

−ret

c/ha

doop

/yar

n−si

te.x

mlno

de1:

/opt

/mod

ules

/had

oop−

2.5.0−c

dh

5.3.6/e

tc/h

adoo

p/

scp -r etc/hadoop/yarn-site.xml node2:/opt/modules/hadoop-2.5.0-cdh5.3.6/etc/hadoop/

啟動各個伺服器的服務

1.啟動hdfs

** zookeeper

bin/zkserver.sh start

** resourcemanager和nodemanager

在bigdata02: sb

in/s

tart

−yar

n.sh

在big

data

03:s bi

n/st

art−

yarn

.sh在

bigd

ata03

:sbin/yarn-daemon.sh start resourcemanager

測試:

執行乙個jar包進行測試

檢視ha狀態 bi

n/ya

rnrm

admi

n−ge

tser

vice

stat

erm1

b in

/yar

nrma

dmin

−get

serv

ices

tate

rm

1bin/yarn rmadmin -getservicestate rm2

$ bin/yarn jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0-cdh5.3.6.jar wordcount /input /output

把active伺服器的resourcemanager程序殺掉,觀察job任務執行

$ kill -9 6854

總結 ha namenode&resourcemanager

1、ha namenode啟動順序

2、ha resourcemanager啟動順序

3、kill 掉乙個namenode和resourcemanager,觀察wordcount程式,

執行使用的hdfs檔案和yarn上執行的記錄,關閉乙個另外乙個保持資訊的一致性。

hadoop的集群安裝

hadoop的集群安裝 1 安裝jdk,解壓jar,配置環境變數 1.1 解壓jar tar zxvf jdk 7u79 linux x64.tar.gz c opt install 將jdk解壓到對應的檔案目錄下 1.2 配置環境變數,sudo vim etc profile 新增下面內容 exp...

Hadoop(二)Hadoop集群搭建

準備好三颱centos系統,配置如下 主機名centos1 centos2 centos3 ipcentos1的ip centos2的ip centos3的ip centos7修改主機名命令 hostnamectl set hostname 配置三個centos的ip對映,修改 etc hosts,...

Hadoop集群配置

hadoop的配置檔案分為兩類 1.唯讀型別的預設檔案 src core core default.xml src hdfs hfds default.xml src mapred mapred default.xml conf mapred queues.xml 2.定位設定 conf core ...