Kafka幾個基本概念

2021-09-26 22:36:27 字數 658 閱讀 8406

producer

訊息的生成者

-consumer-

-訊息的消費者-

-consumergroup-

-消費者組,可以並行消費topic中的partition的訊息-

-broker-

-快取**,kafka集群中的一台或多台伺服器統稱broker.-

-topic-

-kafka處理資源的訊息源(feeds of messages)的不同分類-

-partition-

-topic物理上的分組,乙個topic可以分為多個partion,每個partion是乙個有序的佇列。partion中每條訊息都會被分 配乙個 有序的id(offset)-

-message-

-訊息,是通訊的基本單位,每個producer可以向乙個topic(主題)發布一些訊息-

-producers-

-訊息和資料生成者,向kafka的乙個topic發布訊息的 過程叫做producers-

-consumers-

-訊息和資料的消費者,訂閱topic並處理其發布的消費過程叫做consumers-

offset

long

messagesize

int32

data

messages的具體內容

kafka基本概念

kafka 1 是一種高吞吐量 2 的分布式發布訂閱訊息系統,有如下特性 kafka基本概念 消費模式 1 分割槽消費模式 vs 組消費模式 分割槽的日誌被分發到集群內的伺服器上,每台伺服器負責處理一些分割槽和對這些分割槽的讀寫請求。為滿足容錯需求,各分割槽的資料都按乙個可配置的量被複製到集群的其他...

kafka基本概念

1.topics 主題 屬於特定類別的訊息流成為主題。資料儲存在topics中,topics被拆分為分割槽。對於每個主題,kafka儲存乙個分割槽的資料 每個這樣的分割槽包含不可變有序序列的訊息。分割槽被實現為具有相等大小的一組分段檔案。2.partition 分割槽 主題可能有許多分割槽,因此它可...

kafka 基本概念

訊息 訊息相當於資料庫中的記錄,kafka中的的訊息是二進位制訊息流,所以kafka中的訊息沒有特別的格式或者含義 批次 訊息可以分批次的被傳送,這樣可以提高效率,單條訊息穿梭於網路間,會導致大量的網路開銷,批次越大單位時間內處理的訊息就越多,單個訊息的傳輸時間就越長,批次訊息會被壓縮 可以提公升效...