kafka與celery的區別

2022-09-04 15:45:24 字數 355 閱讀 5962

kafka它們屬於訊息佇列;celery它們屬於任務佇列。

訊息佇列和任務佇列,最大的不同之處就在於理念的不同 -- 訊息佇列傳遞的是「訊息」,任務佇列傳遞的是「任務」。

我們可以放到具體的應用場景上:

訊息佇列用來快速消費佇列中的訊息。比如日誌處理場景,我們需要把不同伺服器上的日誌合併到一起,這時就需要用到訊息佇列。

任務佇列是用來執行乙個耗時任務。比如使用者在購買的一件物品後,通常需要計算使用者的積分以及等級,並把它們儲存到資料庫。這時就需要用到任務佇列。

從上面的例子可看出:

Kafka與MQ的區別

作為訊息佇列來說,企業中選擇mq的還是多數,因為像rabbit,rocket等mq中介軟體都屬於很成熟的產品,效能一般但可靠性較強,而kafka原本設計的初衷是日誌統計分析,現在基於大資料的背景下也可以做運營資料的分析統計,而redis的主要場景是記憶體資料庫,作為訊息佇列來說可靠性太差,而且速度太...

Kafka與MQ的區別

作為訊息佇列來說,企業中選擇mq的還是多數,因為像rabbit,rocket等mq中介軟體都屬於很成熟的產品,效能一般但可靠性較強,而kafka原本設計的初衷是日誌統計分析,現在基於大資料的背景下也可以做運營資料的分析統計,而redis的主要場景是記憶體資料庫,作為訊息佇列來說可靠性太差,而且速度太...

Flume和Kafka的區別與聯絡

目錄 區別點一 區別點二 同樣是流式資料採集框架,flume一般用於日誌採集,可以定製很多資料來源,減少開發量,基本架構是乙個flume程序agent source 選擇器 channel sink 其中傳遞的是原子性的event資料 使用雙層flume架構可以實現一層資料採集,一層資料集合 flu...