Oozie和Azkaban的區別

2021-10-10 07:44:21 字數 567 閱讀 7644

azkaban: 乙個批量工作流任務排程器

oozie本質就是乙個作業協調工具(底層原理是通過將xml語言轉換成mapreduce程式來做,但只是在集中map端做處理,避免shuffle的過程。)

oozie和azkaban的區別

工作流配置上:azkaban使用properties或yml,oozie使用xml

工作流傳參上:azkaban直接傳參,oozie還額外支援el

表示式定時任務上:azkaban基於時間,oozie還額外基於資料

資源管理上:azkaban有許可權管理,oozie暫無

重試機制上:azkaban支援job級別的重試,oozie支援更細粒度的重試

反饋機制上:azkaban根據程序的反饋判斷是否成功,oozie則根據yarn的作業判斷是否成功

使用難度上:azkaban開箱即用,oozie需要複雜的編譯和安裝才可以使用

自由度上:azkaban只能通過shell執行job,oozie則可以根據情況定製jar包執行job

要根據自己的工作需要來選擇具體是用azkaban還是oozie來做任務排程和定時任務。這兩個工具會用就行了。

Azkaban的架構(三)

azkaban的功能特點 二 不多說,直接上乾貨!azkaban的架構 azkaban是一種類似於oozie的工作流控制引擎,可以用來解決多個hadoop 或spark等 離線計算任務之間的依賴關係問題。也可以用其代替crontab來對週期性任務進行排程,並且更為直觀,可靠,同時提供了美觀的視覺化管...

Azkaban的架構(三)

azkaban的架構 azkaban是一種類似於oozie的工作流控制引擎,可以用來解決多個hadoop 或spark等 離線計算任務之間的依賴關係問題。也可以用其代替crontab來對週期性任務進行排程,並且更為直觀,可靠,同時提供了美觀的視覺化管理介面。azkaban由三部分構成 1 relat...

azkaban的安裝使用

主要是排程方面的功能,有些工具也支援資源的管理,比如zeus和yarn類似 基於時間條件觸發程式執行,系統時間到了就跑 基於其他程式的執行結果進行排程執行,前面的任務跑完了,我開始跑 處理乙個資料的時候,只有資料存在的時候,才執行任務。crontab e command 分 時 日 月 周 00 1...