Storm 二 Storm集群部署

2021-10-03 01:23:27 字數 2539 閱讀 2780

集群部署的基本流程

集群部署的基礎環境準備

storm集群部署

storm集群的常用操作命令

storm集群的程序及日誌檢視

注意:所有的集群上都需要配置hosts

vi  

/etc/hosts

192.168.239.128 storm01 zk01 hadoop01

192.168.239.129 storm02 zk02 hadoop02

192.168.239.130 storm03 zk03 hadoop03

安裝前的準備工作(zk集群已經部署完畢)

chkconfig iptables off  && setenforce 0

groupadd realtime && useradd realtime && usermod -a -g realtime realtime

mkdir /export

mkdir /export/servers

chmod 755 -r /export

su realtime

wget    

tar -zxvf apache-storm-0.9.5.tar.gz -c /export/servers/

cd /export/servers/

ln -s apache-storm-0.9.5 storm

mv /export/servers/storm/conf/storm.yaml /export/servers/storm/conf/storm.yaml.bak

vi /export/servers/storm/conf/storm.yaml

輸入以下內容

然後分別在各機器上建立軟連線

cd /export/servers/

ln -s apache-storm-0.9.5 storm

cd /export/servers/storm/bin/

nohup ./storm nimbus &

cd /export/servers/storm/bin/

nohup ./storm ui &

cd /export/servers/storm/bin/

nohup ./storm supervisor &

訪問nimbus.host:/8080,即可看到storm的ui介面。

有許多簡單且有用的命令可以用來管理拓撲,它們可以提交、殺死、禁用、再平衡拓撲。

bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.6.jar storm.starter.wordcounttopology wordcount

storm kill topology-name -w 10

storm deactivte topology-name

我們能夠掛起或停用執行中的拓撲。當停用拓撲時,所有已分發的元組都會得到處理,但是spouts的nexttuple方法不會被呼叫。銷毀乙個拓撲,可以使用kill命令。它會以一種安全的方式銷毀乙個拓撲,首先停用拓撲,在等待拓撲訊息的時間段內允許拓撲完成當前的資料流。

storm activate topology-name

storm rebalance topology-name

再平衡使你重分配集群任務。這是個很強大的命令。比如,你向乙個執行中的集群增加了節點。再平衡命令將會停用拓撲,然後在相應超時時間之後重分配工人,並重啟拓撲。

依次啟動集群的各種角色

在nimbus的伺服器上

cd /export/servers/storm/logs

tail -100f /export/servers/storm/logs/nimbus.log

在ui的伺服器上,一般和nimbus乙個伺服器

cd /export/servers/storm/logs

tail -100f /export/servers/storm/logs/ui.log

在supervisor服務上

cd /export/servers/storm/logs

tail -100f /export/servers/storm/logs/supervisor.log

在supervisor服務上

Storm集群部署

storm集群部署 1 所有的集群上都要配置hosts vi etc hosts 192.168.33.201 storm1 hadoop1 zk1 192.168.33.202 storm2 hadoop2 zk2 192.168.33.203 storm3 hadoop3 zk3 2 集群部署的...

Storm集群部署

storm是乙個分布式實時計算系統,storm對於實時計算的意義就相當於hadoop對於批量計算的意義。對於實時性較高的系統storm是不錯的選擇。hadoop提供了map,reduce原語,使批處理程式變得非常地簡單和優美。同樣,storm也為實時計算提供了一些簡單優美的原語。涉及的術語說明 ni...

Storm集群安裝與部署

1 三颱虛擬機器 192.168.1.128 nimbus 192.168.1.131 supervisor 192.168.1.132 supervisor 2 jdk1.8 3 zookeeper3.4.10 4 storm 1.1.1 1 配置storm ps 三颱機器的配置都是這樣的 sto...