Azkaban集群部署教程

2021-10-19 09:31:32 字數 4301 閱讀 7280

1)將azkaban-db-3.84.4.tar.gz,azkaban-exec-server-3.84.4.tar.gz,azkaban-web-server-3.84.4.tar.gz上傳到hadoop102的/opt/software路徑

2)新建/opt/module/azkaban目錄,並將所有tar包解壓到這個目錄下

mkdir /opt/module/azkaban
3)解壓azkaban-db-3.84.4.tar.gz、 azkaban-exec-server-3.84.4.tar.gz和azkaban-web-server-3.84.4.tar.gz到/opt/module/azkaban目錄下

tar -zxvf azkaban-db-3.84.4.tar.gz -c /opt/module/azkaban/
tar -zxvf azkaban-exec-server-3.84.4.tar.gz -c /opt/module/azkaban/
tar -zxvf azkaban-web-server-3.84.4.tar.gz -c /opt/module/azkaban/
4)進入到/opt/module/azkaban目錄,依次修改名稱

mv azkaban-exec-server-3.84.4/ azkaban-exec
mv azkaban-web-server-3.84.4/ azkaban-web
1)正常安裝mysql

2)啟動mysql

mysql -uroot -p000000
3)登陸mysql,建立azkaban資料庫

mysql> create database azkaban;
4)建立azkaban使用者並賦予許可權

設定密碼有效長度4位及以上

mysql> set global validate_password_length=4;
設定密碼策略最低級別

mysql> set global validate_password_policy=0;
建立azkaban使用者,任何主機都可以訪問azkaban,密碼是000000

mysql> create user 'azkaban'@'%' identified by '000000';
賦予azkaban使用者增刪改查許可權

mysql> grant select,insert,update,delete on azkaban.* to 'azkaban'@'%' with grant option;
5)建立azkaban表,完成後退出mysql

mysql> use azkaban;

mysql> source /opt/module/azkaban/azkaban-db-3.84.4/create-all-sql-3.84.4.sql

mysql> quit;

6)更改mysql包大小;防止azkaban連線mysql阻塞

vim /etc/my.cnf
在[mysqld]下面加一行max_allowed_packet=1024m

8)重啟mysql

systemctl restart mysqld
azkaban executor server處理工作流和作業的實際執行。

1)編輯azkaban.properties

vim /opt/module/azkaban/azkaban-exec/conf/azkaban.properties
修改如下的屬性

在最後新增

executor.metric.reports=true

executor.metric.milisecinterval.default=60000

2)同步azkaban-exec到所有節點

xsync /opt/module/azkaban/azkaban-exec
3)必須進入到/opt/module/azkaban/azkaban-exec路徑,分別在三颱機器上,啟動executor server

bin/start-exec.sh
注意:如果在/opt/module/azkaban/azkaban-exec目錄下出現executor.port檔案,說明啟動成功

4)下面啟用executor

curl -g "hadoop102:$(<. echo>
curl -g "hadoop103:$(<. echo>
curl -g "hadoop104:$(<. echo>
如果三颱機器都出現如下提示,則表示啟用成功

azkaban web server處理專案管理,身份驗證,計畫和執行觸發。

1)編輯azkaban.properties

vim /opt/module/azkaban/azkaban-web/conf/azkaban.properties
修改如下屬性

default.timezone.id=asia/shanghaidatabase.type=mysql

mysql.port=3306

mysql.host=hadoop102

mysql.database=azkaban

mysql.user=azkaban

mysql.password=000000

mysql.numconnections=100

azkaban.executorselector.filters=staticremainingflowsize,cpustatus

說明:

#staticremainingflowsize:正在排隊的任務數;

#cpustatus:cpu占用情況

#minimumfreememory:記憶體占用情況。測試環境,必須將minimumfreememory刪除掉,否則它會認為集群資源不夠,不執行。

2)修改azkaban-users.xml檔案,新增root使用者

vim /opt/module/azkaban/azkaban-web/conf/azkaban-users.xml

3)必須進入到hadoop102的/opt/module/azkaban/azkaban-web路徑,啟動web server

bin/start-web.sh
4)訪問http://hadoop102:8081,並用root使用者登陸

Azkaban 集群安裝部署(二)

步驟一 sftp 工具上傳並解壓 azkaban 三個安裝包 azkaban db 3.91.0 184 ge0e7aa7.tar azkaban exec server 3.91.0 184 ge0e7aa7.tar azkaban web server 3.91.0 184 ge0e7aa7.t...

two server模式部署(azkaban二)

2 解壓web server和exec server web server root node1 tar zxvf root azkaban 3.42.0 azkaban web server build distributions azkaban web server 0.1.0 snapshot...

azkaban安裝詳細教程

準備azkaban的安裝包 配置mysql 為azkaban建立使用者 資料庫 設定許可權等 create database azkaban create user azkaban identified by azkaban grant select,insert,update,delete on ...