Kafka學習(四) Kafka架構詳解

2021-10-04 02:48:56 字數 881 閱讀 5136

1、生產者 api

2、消費者 api

說明

kafka訊息保留在磁碟上,並在集群內複製以防止資料丟失(不能提高資料的讀取效率)。

consumer group:每乙個consumer屬於乙個特定的consumer group(可以為每個consumer指定 groupname)

broker:kafka集群中包含乙個或者多個服務例項

topic:每條發布到kafka集群的訊息都有乙個類別,分類

partition:partition是乙個物理上的概念,每個topic包含乙個或者多個partition

segment:乙個partition當中存在多個segment檔案段,每個segment分為兩部分,.log檔案和.index檔案,其中:

.index檔案是索引檔案,主要用於快速查詢.log檔案當中資料的偏移量位置

.log存放資料檔案

kafka學習二 kafka基礎架構

kafka基礎架構圖如下 生產者負責向某個topic傳送訊息,發訊息的時候可以指定分割槽 topic包含多個partition,每個partition又有leader和follower,leader和follower在不同的broker上。建立topic的時候副本數不能大於broker個數 消費者組...

Kafka基礎 Kafka架構

目錄kakfa 架構 kafka最初是由linkedin公司採用scala語言開發的乙個多分割槽 多副本並且基於zookeeper協調的分布式訊息系統,現在已經捐獻給了apache 會。目前kafka已經定位為乙個分布式流式處理平台,它以 高吞吐 可持久化 可水平擴充套件 支援流處理等多種特性而被廣...

kafka學習 四 kafka集群部署

1 broker.id 1 保證每個broker唯一,第一台可以不修改預設為0,後面兩台需要修改,如改為2和3 2 num.partitions 3 分割槽數量一般與broker保持一致 3 listeners plaintext 192.168 172 129 9092 修改為本機ip 4 zoo...