kafka 保證資料一致

2022-06-18 23:12:12 字數 734 閱讀 6785

先看下kafka的集群架構:

kafka生產乙個topic,建立了3個分割槽,每個分割槽都會先有乙個leader,然後在其他機器中,建立自己分割槽的follower(副本);

有三個值:

下面的場景尺度為乙個parition內:

幾個概念:

注意:

存在這樣兩種故障,offset會需要維護:

follower故障後恢復:

follower故障,會被踢出isr,恢復後,會讀取本地磁碟,恢復故障前的hw之前的資料,然後開始向leader進行同步,一直同步到整個partition的hw,此時訊息可認為是追上了leader,就可以重新加入isr了;

leader故障後重新選出leader:

解決:比如leader故障,現在從isrs中選第二個follower為leader;

那麼除了新leader之外的所有follower都將資料擷取到hw:這樣除了leader外,所有的offset都為hw;

然後follower向leader同步資料;

保證一致性嗎 Kafka的一致性保證

魚和熊掌不可兼得。系統設計需要根據具體的應用場景做出權衡。系統設計者可以通過配置kafka,來得到不同程度的需求滿足。每個kafka主題 topic 都分為多個分割槽 partitions 每個分割槽可以具有多個副本 replica 其中乙個副本是主分割槽 leader 所有讀寫請求都由主分割槽提供...

KafKa資料儲存與資料一致性保證

一類訊息稱為乙個topic topic邏輯結構 topic可分為多個parition parition內部保證資料的有序,按照訊息寫入順序給每個訊息賦予乙個遞增的offset 為保證資料的安全性,每個partition有多個replica 多parition的優點 併發讀寫,加快讀寫速度 多part...

zookpeer如何保證資料一致

zookpeer如何保證資料一致 paxos演算法通過投票來對寫操作進行全域性編號,同一時刻,只有乙個寫操作被批准,同時併發的寫操作要去爭取選票,只有獲得過半數選票的寫操作才會被 批准 所以永遠只會有乙個寫操作得到批准 其他的寫操作競爭失敗只好再發起一輪投票,就這樣,在日復一日年復一年的投票中,所有...