Hadoop集群Master節點部署方案

2021-06-16 21:45:07 字數 1713 閱讀 5166

ø  更改/etc/hosts,新增所有集群機器ip到主機名對映

ø  拷貝hadoop包hadoop.tar.gz到/usr/local

ø  md5sum校驗hadoop.tar.gz包:md5sum hadoop.tar.gz

ø  解壓hadoop.tar.gz包:tar -xzf hadoop.tar.gz

ø  更改hadoop-1.0.3目錄許可權:chown -r hadoop:hadoop hadoop-1.0.3

ø  建立/home/bin目錄,將工具拷貝到目錄下

ø  更改/home/bin目錄許可權為777

ø  用root許可權安裝tcl和expect工具,具體步驟如下:

1. 在/home/bin下建立soft目錄

2. 將expect-5.43.0.tar.gz和tcl8.4.11-src.tar.gz拷貝到soft目錄下並解壓

3. 更改expect-5.43.0和tcl8.4.11許可權為hadoop:chown-r hadoop:hadoop

ø  安裝tcl:

a.執行sed -i "s/relid'/relid/"configure

b.執行./configure --prefix=/expect

c.執行make

d.執行make install

e.執行mkdir -p /tools/lib

f.執行cp tclconfig.sh /tools/lib/

g.將/tools/bin目錄export到環境變數

tclpath=/tools/bin

export tclpath

ø  安裝expect:

a.進入/soft/expect-5.43目錄

b.執行./configure --prefix=/tools--with-tcl=/tools/lib --with-x=no

configure:error: can't find tcl private headers

需要新增乙個頭檔案目錄引數

--with-tclinclude=../tcl8.4.11/generic,即

./configure --prefix=/tools --with-tcl=/tools/lib --with-x=no--with-tclinclude=../tcl8.4.11/generic

../tcl8.4.11/generic 就是tcl解壓安裝後的路徑,一定確保該路徑存在

d.執行make

e.執行make install

f.編譯完成後會生在/tools/bin內生成expect命令

g.執行/tools/bin/expect出現expect1.1>提示符說明expect安裝成功.

ø  在hadoop根目錄生成公鑰和私鑰檔案:

a.ssh-keygen -t rsa

b.cat id_rsa.pub > authorized_keys

c.chmod 644 authorized_keys

ø  更改hadoop集群的conf檔案,修改相應的主機名、埠、http位址等

ø  建立master節點到所有datanode的信任關係

ø  修改.bash_profile檔案,將/home/bin加入到環境變數中,並將環境變數匯出

ø  更改/hadoop-disk或者其他使用磁碟的許可權為hadoop:chown -r hadoop:hadoop

redis集群刪除master節點

1.首先把該master節點下的雜湊槽轉移到其他節點下執行下面命令 redis trib.rb reshard 192.168.139.30 7000 接受雜湊槽的redis節點,不是待刪除的redis節點 隨後會提示接受雜湊槽的node id 即192.168.139.30 7000的node i...

Hadoop(二)Hadoop集群搭建

準備好三颱centos系統,配置如下 主機名centos1 centos2 centos3 ipcentos1的ip centos2的ip centos3的ip centos7修改主機名命令 hostnamectl set hostname 配置三個centos的ip對映,修改 etc hosts,...

es集群master節點配置組合

在生產環境下,如果不修改elasticsearch節點的角色資訊,在高資料量,高併發的場景下集群容易出現腦裂等問題。預設情況下,elasticsearch 集群中每個節點都有成為主節點的資格,也都儲存資料,還可以提供查詢服務。這些功能是由兩個屬性控制的。1.node.master 2.node.da...