kafka引數配置優化

2021-07-25 01:30:49 字數 2155 閱讀 8290

#非負整數,用於唯一標識broker

broker.id=0

# broker 服務監聽埠

port=9092

# broker 發布給生產者消費者的hostname,會儲存在zookeeper。配置好這個host可以實現內網外網同時訪問。

advertised.host.name=host1

# broker 發布給生產者消費者的port,會儲存在zookeeper。

advertised.port=9092

# 處理網路請求的執行緒數量,一般預設配置就好

num.network.threads=3

# 處理磁碟的執行緒數量,一般預設配置就好

num.io.threads=8

#  socket server 傳送資料緩衝區大小

socket.send.buffer.bytes=102400

# socket server 接受資料緩衝區大小

socket.receive.buffer.bytes=102400

# soket server 可接受最大訊息大小,防止oom

socket.request.max.bytes=104857600

# kafka存放訊息的目錄

log.dirs=/home/data/kafka/kafka-logs

# 每個topic預設partition數量,根據消費者實際情況配置,配置過小會影響消費效能

num.partitions=50

# kafka啟動恢復日誌,關閉前日誌刷盤的執行緒數

num.recovery.threads.per.data.dir=1

#日誌保留時間

log.retention.minutes=30

# 日誌保留大小

log.retention.bytes=53687091200

# 日誌 segment file 大小. 超過這個大小建立新segment file

log.segment.bytes=67108864

# 日誌 segment file 重新整理時間. 超過這個時間建立新segment file

log.roll.hours=24

# 日誌淘汰檢查間隔時間

log.retention.check.interval.ms=10000

# zookeeper host和port 

zookeeper.connect=localhost:2181

# 連線zookeeper超時時間

zookeeper.connection.timeout.ms=6000

# 清除fetch  purgatory 間隔訊息條數

fetch.purgatory.purge.interval.requests=100

#清除producer purgatory 間隔訊息條數

producer .purgatory.purge.interval.requests=100

#是否可以通過管理工具刪除topic,預設是false

delete.topic.enable=true

gzip,不壓縮。建議開啟壓縮,可以提高傳輸效能,壓縮格式的選擇可以參考文章結尾的參考資料。

#啟用壓縮的topic名稱。若上面引數選擇了乙個壓縮格式,那麼壓縮僅對本引數指定的topic有效,若本引數為空,則對所有topic有效。

compressed.topics=topic1

#用來從主partion同步資料的執行緒數,預設為1,建議適當調大,資料量大的時候乙個同步執行緒可能不夠用

num.replica.fetchers=3

#訊息日誌備份因子,預設是1

default.replication.factor=2

Kafka引數配置詳解

配置引數 引數說明 broker.id 1 每乙個broker在集群中的唯一標示,要求是正數。當該伺服器的 ip位址發生改變時,如果broker.id沒有變化,則不會影響consumer s的訊息情況 log.dirs log kafka logs kafka資料的存放位址,多個位址的話用逗號分割 ...

Kafka生產者引數優化

properties props new properties 集群位址,多個伺服器用 分隔 props.put bootstrap.servers 192.168.72.141 9092,192.168.72.142 9092,192.168.72.143 9092 重新傳送訊息次數,到達次數返回...

mysql配置引數優化 mysql配置引數優化

最大連線數 優化 max connections 1000 table open cache 256 query cache type 1 查詢快取大小 query cache size 1m tmp table size 32m 執行緒快取數 thread cache size 8 關閉dns做反...