kafka 分割槽數

2022-05-13 22:39:09 字數 876 閱讀 9700

kafka的分割槽,相當於把乙個topic再細分成了多個通道(對應 多個執行緒)

部署的時候盡量做到乙個消費者(執行緒)對應乙個分割槽。

如果你的分割槽數是n,那麼最好執行緒數也保持為n。

kafkastream——它是consumer的關鍵類,提供了遍歷方法用於consumer程式呼叫實現資料的消費。

其底層維護了乙個阻塞佇列,所以在沒有新訊息到來時,consumer是處於阻塞狀態

的,即consumer程式一直在等待新訊息的到來。

你也可以配置成帶超時的consumer,參看引數consumer.timeout.ms。

下面說說 kafka提供的兩種分配策略: range和roundrobin,由引數partition.assignment.strategy指定,預設是range策略。

本文只討論range策略。所謂的range其實就是按照階段平均分配。舉個例子就明白了,

假設你有10個分割槽,p0 ~ p9,consumer執行緒數是3, c0 ~ c2,那麼每個執行緒都分配哪些分割槽呢?

c0 消費分割槽 0, 1, 2, 3

c1 消費分割槽 4, 5, 6

c2 消費分割槽 7, 8, 9

具體演算法就是:

val npartsperconsumer = curpartitions.size / curconsumers.size // 每個consumer至少保證消費的分割槽數

val nconsumerswithextrapart = curpartitions.size % curconsumers.size // 還剩下多少個分割槽需要單獨分配給開頭的執行緒們

kafka 修改分割槽 kafka分割槽

一 topic下引入partition的作用 topic是邏輯的概念,partition是物理的概念。為了效能考慮,如果topic內的訊息只存於乙個broker,那這個broker會成為瓶頸,無法做到水平擴充套件。kafka通過演算法盡可能的把partition分配到集群的不同伺服器上。partit...

kafka消費分割槽策略

在 kafka 實際生產過程中,每個 topic 都會有 多個 partitions。1.多個partitions有什麼好處?1 多個 partition 能夠對 broker 上的資料進行分片,通過減少訊息容量來提公升 io 效能 2 為了提高消費端的消費能力,一般情況下會通過多個 conusme...

kafka的分割槽模式?

當別人問這個問題的時候,別人肯定是想你是否看過原始碼。是否針對不同場景改過kafka的分割槽模式 這是別人最想知道的是,你的message如何負載均衡的傳送給topic的partition 我們用kafka的時候,可以動態指定partition,也可以不指定partition 當我們動態指定了par...