Storm 第二章 Storm安裝

2022-09-15 10:09:13 字數 1866 閱讀 6239

nimbus:hadoop1

zookeeper:hadoop2,hadoop3,hadoop4

supervisor:hadoop5,hadoop6,hadoop7

安裝檔案:apache-storm-1.0.0.tar

storm.zookeeper.servers:

- "hadoop2

" - "

hadoop3

" - "

hadoop4

"nimbus.seeds: [

"hadoop1"]

supervisor.slots.ports:

- 6700

- 6701

- 6702

- 6703

storm.local.

dir: "

/home/hadoop/storm-dir/

"

storm.zookeeper.servers:配置zookeeper位址

supervisor.slots.ports:upervisor上能夠執行workers的埠列表.每個worker占用乙個埠,且每個埠只執行乙個。

storm.local.dir:storm使用的本地檔案系統目錄。

使用scp命令將安裝包分發至hadoop5,hadoop6,hadoop7

4.1 在nimbus所屬的機器上啟動nimbus服務

nohup  ./storm nimbus &

4.2 在nimbus所屬的機器上啟動ui服務

nohup ./storm ui &

4.3 在其他節點上啟動supervisor服務

nohup ./storm supervisor &

在本集群規劃中,在hadoop1上啟動nimbus和ui服務,在hadoop5,hadoop6,hadoop7上啟動supervisor。

訪問http://hadoop1:8080可以看到storm的ui介面。

5.1 提交任務命令

storm jar 【jar路徑】【拓撲全類名】 【引數可選】  

bin/storm jar examples/storm-starter/storm-starter-topologies0.9.6.jar storm.starter.wordcounttopology wordcount

5.2 殺死任務

storm kill 【拓撲名稱】 -w 10(執行kill命令時可以通過-w [等待秒數]指定拓撲停用以後的等待時間)

storm kill topology-name -w

10

5.3 停用任務

storm deactivte  【拓撲名稱】  

storm deactivte topology-name

我們能夠掛起或停用執行中的拓撲。當停用拓撲時,所有已分發的元組都會得到處理,但是spouts的nexttuple方法不會被呼叫。銷毀乙個拓撲,可以使用kill命令。它會以一種安全的方式銷毀乙個拓撲,首先停用拓撲,在等待拓撲訊息的時間段內允許拓撲完成當前的資料流。

5.4 啟用任務

storm activate【拓撲名稱】

storm activate topology-name

5.5 重新部署任務命令格式

storm rebalance  【拓撲名稱】

storm rebalance topology-name

再平衡使你重分配集群任務。這是個很強大的命令。比如,你向乙個執行中的集群增加了節點。再平衡命令將會停用拓撲,然後在相應超時時間之後重分配工人,並重啟拓撲。

Storm 二 Storm集群部署

集群部署的基本流程 集群部署的基礎環境準備 storm集群部署 storm集群的常用操作命令 storm集群的程序及日誌檢視 注意 所有的集群上都需要配置hosts vi etc hosts 192.168.239.128 storm01 zk01 hadoop01 192.168.239.129 ...

Storm流式處理框架第二期 Storm計算模型

對於 storm 實時計算邏輯的封裝,即,由一系列通過資料流相互關聯的spout bolt 所組成的拓撲結構。生命週期 此拓撲只要啟動就會一直在集群中執行,直到手動將其 kill 否則不會終止 區別於mapreduce 當中的job,mr 當中的job 在計算執行完成就會終止 stream 中最小資...

storm安裝 3 storm本身的安裝

這裡我用的版本是storm 0.8.2.zip 新增許可權 chmod x storm 0.8.2.zip 進行檔案的解壓 unzip storm 0.8.1.zip 如果沒有安裝unzip,可以使用 yum install unzip進行安裝 然後把解壓的檔案複製到 usr local 資料夾中 ...