kafka分割槽數量的判定

2021-09-12 09:35:01 字數 477 閱讀 6971

ps:越努力越幸運。

你要思考一些一些問題,決定吞吐量的因素有哪些?

第一點: 資料傳輸的效率肯定是離不開網路的。

第二點: 就越是你資料的產生的速度,如果網路足夠了,但是資料產生的速度不夠也依舊達不到瓶頸。

第三點: 就是你需要達到什麼樣的效率,這個時候就要將網路效能是否滿足你的需求做乙個詳細的評估了。這就叫做量力而行嘛, 你網路不夠還非要要求那麼高那就尷尬了。想讓馬兒跑,不給馬兒吃草是不行滴。

上面兩個問題只是讓你簡單的思考一些,接下來步入正題。

確定好kafka的分割槽的數量,首先和你的業務需要的吞吐量有關,比如說生產者傳送資料的效率是p=40m/s  消費者美妙接受的效率是每秒鐘c=30m/s 

而我們的業務場景要求每秒鐘達到1gb/s  那麼這個時候需要的分割槽就是  1gb/max

kafka 修改分割槽 kafka分割槽

一 topic下引入partition的作用 topic是邏輯的概念,partition是物理的概念。為了效能考慮,如果topic內的訊息只存於乙個broker,那這個broker會成為瓶頸,無法做到水平擴充套件。kafka通過演算法盡可能的把partition分配到集群的不同伺服器上。partit...

kafka的分割槽模式?

當別人問這個問題的時候,別人肯定是想你是否看過原始碼。是否針對不同場景改過kafka的分割槽模式 這是別人最想知道的是,你的message如何負載均衡的傳送給topic的partition 我們用kafka的時候,可以動態指定partition,也可以不指定partition 當我們動態指定了par...

kafka 分割槽數

kafka的分割槽,相當於把乙個topic再細分成了多個通道 對應 多個執行緒 部署的時候盡量做到乙個消費者 執行緒 對應乙個分割槽。如果你的分割槽數是n,那麼最好執行緒數也保持為n。kafkastream 它是consumer的關鍵類,提供了遍歷方法用於consumer程式呼叫實現資料的消費。其底...