kafka基本概念

2021-08-19 17:56:09 字數 450 閱讀 6533

kafka

[1]是一種高吞吐量

[2]的分布式發布訂閱訊息系統,有如下特性:

kafka基本概念:

消費模式:

1 分割槽消費模式 vs 組消費模式

分割槽的日誌被分發到集群內的伺服器上,每台伺服器負責處理一些分割槽和對這些分割槽的讀寫請求。

為滿足容錯需求,各分割槽的資料都按乙個可配置的量被複製到集群的其他伺服器上

每個分割槽都有乙個領導伺服器和0到多個追隨者伺服器。領導伺服器負責對這個分割槽的所有讀寫操作

而追隨伺服器則被動的複製領導伺服器。

如果領導伺服器宕機,其中一台追隨者伺服器會被自動選舉為新領導。乙個分割槽的領導伺服器可能是

了另外幾個分割槽的追隨者伺服器,所以總體上集群負載是均衡的

kafka基本概念

1.topics 主題 屬於特定類別的訊息流成為主題。資料儲存在topics中,topics被拆分為分割槽。對於每個主題,kafka儲存乙個分割槽的資料 每個這樣的分割槽包含不可變有序序列的訊息。分割槽被實現為具有相等大小的一組分段檔案。2.partition 分割槽 主題可能有許多分割槽,因此它可...

kafka 基本概念

訊息 訊息相當於資料庫中的記錄,kafka中的的訊息是二進位制訊息流,所以kafka中的訊息沒有特別的格式或者含義 批次 訊息可以分批次的被傳送,這樣可以提高效率,單條訊息穿梭於網路間,會導致大量的網路開銷,批次越大單位時間內處理的訊息就越多,單個訊息的傳輸時間就越長,批次訊息會被壓縮 可以提公升效...

Kafka學習 基本概念

apache kafka是一種分布式的訊息中介軟體,什麼是訊息中介軟體,它是一種可靠的訊息傳輸機制,可以進行與平台無關的資料交流,並基於資料通訊完成訊息傳遞和佇列模型,可以在分布環境下擴充套件程序間的通訊 1.流處理平台的三個關鍵能力 發布和訂閱訊息 流 在這方面,它類似於乙個訊息佇列或企業訊息系統...