kafka 詳細配置（broker）

以下是kafka broker 詳細配置的引數、預設值、描述

引數預設值描述 broker.id -1　每乙個boker都有乙個唯一的id作為它們的名字。當該伺服器的ip位址發生改變時，broker.id沒有變化，則不會影響consumers的訊息情況 port 9092 broker server服務埠 host.name "" broker的主機位址，若是設定了，那麼會繫結到這個位址上，若是沒有，會繫結到所有的介面上，並將其中之一傳送到zk log.dirs /tmp/kafka-logs kafka資料的存放位址，多個位址的話用逗號分割,多個目錄分布在不同磁碟上可以提高讀寫效能 /data/kafka-logs-1，/data/kafka-logs-2 message.max.bytes 1000012 表示訊息體的最大大小，單位是位元組 num.network.threads 3 broker處理訊息的最大執行緒數，一般情況下數量為cpu核數 num.io.threads 8 處理io的執行緒數 log.flush.interval.messages long.maxvalue 在資料被寫入到硬碟和消費者可用前最大累積的訊息的數量 log.flush.interval.ms long.maxvalue 在資料被寫入到硬碟前的最大時間 log.flush.scheduler.interval.ms long.maxvalue 檢查資料是否要寫入到硬碟的時間間隔。 log.retention.hours 168 (24*7) 控制乙個log保留多長個小時 log.retention.bytes -1 控制log檔案最大尺寸 log.cleaner.enable false 是否log cleaning log.cleanup.policy delete　 delete還是compat. log.segment.bytes 1073741824 單一的log segment檔案大小 log.roll.hours 168 開始乙個新的log檔案片段的最大時間 background.threads 10 後台線程式 num.partitions 1 預設分割槽數 socket.send.buffer.bytes 102400 socket so_sndbuff引數 socket.receive.buffer.bytes 102400 socket so_rcvbuff引數 zookeeper.connect 指定zookeeper連線字串，格式如hostname:port/chroot。chroot是乙個namespace zookeeper.connection.timeout.ms 6000 指定客戶端連線zookeeper的最大超時時間 zookeeper.session.timeout.ms　　 6000 連線zk的session超時時間 zookeeper.sync.time.ms 2000 zk follower落後於zk leader的最長時間 high-level consumer的配置引數引數預設值描述 groupid groupid 乙個字串用來指示一組consumer所在的組 socket.timeout.ms 30000 socket超時時間 socket.buffersize 64*1024 socket receive buffer fetch.size 300 * 1024 控制在乙個請求中獲取的訊息的位元組數。這個引數在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代 backoff.increment.ms 1000 這個引數避免在沒有新資料的情況下重複頻繁的拉資料。如果拉到空資料，則多推後這個時間 queued.max.message.chunks 2 high level consumer內部快取拉回來的訊息到乙個佇列中。這個值控制這個佇列的大小 auto.commit.enable true 如果true,consumer定期地往zookeeper寫入每個分割槽的offset auto.commit.interval.ms 10000 往zookeeper上寫offset的頻率 auto.offset.reset largest 如果offset出了返回，則 smallest: 自動設定reset到最小的offset. largest : 自動設定offset到最大的offset. 其它值不允許，會丟擲異常. consumer.timeout.ms -1 預設-1,consumer在沒有新訊息時無限期的block。如果設定乙個正值，乙個超時異常會丟擲 rebalance.retries.max 4 rebalance時的最大嘗試次數 producer的配置引數引數預設值描述 producer.type sync 指定訊息傳送是同步還是非同步。非同步asyc成批傳送用kafka.producer.ayncproducer，同步sync用kafka.producer.syncproducer metadata.broker.list boker list 使用這個引數傳入boker和分割槽的靜態資訊，如host1:port1,host2:port2, 這個可以是全部boker的一部分 compression.codec nocompressioncodec 訊息壓縮，預設不壓縮 compressed.topics null 在設定了壓縮的情況下，可以指定特定的topic壓縮，未指定則全部壓縮 message.send.max.retries 3 訊息傳送最大嘗試次數 retry.backoff.ms 300 每次嘗試增加的額外的間隔時間 topic.metadata.refresh.interval.ms 600000 定期的獲取元資料的時間。當分割槽丟失，leader不可用時producer也會主動獲取元資料，如果為0，則每次傳送完訊息就獲取元資料，不推薦。如果為負值，則只有在失敗的情況下獲取元資料。 queue.buffering.max.ms 5000 在producer queue的快取的資料最大時間，僅僅for asyc queue.buffering.max.message 10000 producer 快取的訊息的最大數量，僅僅for asyc queue.enqueue.timeout.ms -1 0當queue滿時丟掉，負值是queue滿時block,正值是queue滿時block相應的時間，僅僅for asyc batch.num.messages 200 一批訊息的數量，僅僅for asyc request.required.acks 0 0表示producer無需等待leader的確認，1代表需要leader確認寫入它的本地log並立即確認，-1代表所有的備份都完成後確認。僅僅for sync

request.timeout.ms 10000 確認超時時間

kafka 詳細配置（broker）

Kafka系列之broker配置

Kafka單節點多broker配置

Kafka詳細配置

kafka 詳細配置（broker）

Kafka系列之broker配置

Kafka單節點多broker配置

Kafka詳細配置

相關推薦