kakfa 效能相關

2022-02-24 14:02:25 字數 589 閱讀 8787

1.增大partition最大連線數

kafka的集群有多個broker伺服器組成,每個型別的訊息被定義為topic,同一topic內部的訊息按照一定的key和演算法被分割槽(partition)儲存在不同的broker上,訊息生產者producer和消費者consumer可以在多個broker上生產/消費topic,kafka的讀寫單位為partition。

2.增加磁碟掛載數

將log資料分布到不同磁碟的多個目錄上。

3.避免與其他服務共享磁碟

避免影響io資料

4.增加處理網路io數

num.network.threads    主要處理網路io,讀寫緩衝區資料,基本沒有io等待,配置執行緒數量為cpu核數加1.

5.增加處理磁碟io運算元

num.io.threads  主要進行磁碟io操作,高峰期可能有些io等待,因此配置需要大些。配置執行緒數量為cpu核數2倍,最大不超過3倍.

6.調整資料檔案重新整理策略

log.flush.interval.messages=10000   ##每當寫入10000條資料時

log.flush.interval.ms=1000  ##每間隔1秒時

Kakfa安裝部署

tar zxvf kafka安裝包 vi bash profile export kafka home 安裝包解壓位置 export path kafka home bin path 安裝kafka前提 jdkzookeeper 進入 kafka home conf 目錄 修改server.prop...

kakfa原始碼除錯

一,環境準備 進入原始碼的根路徑,使用gradle編譯 輸入命令 gradle idea 等待一段時間就可以看到編譯成功 gitbash export http proxy 設定 gradlew jar 編譯通過 匯入idea開啟 把client generated generated test拷貝...

kakfa常用命令

1.kafka依賴於zookeeper,所以先啟動zookeeper 進入到kafka目錄 bin zookeeper server start.sh config zookeeper.properties 2.啟動kafka bin kafka server start.sh config ser...