Kafka集群配置

2021-09-05 11:18:38 字數 1626 閱讀 8946

1、kafka概念:

topic:kafka

按照topic

分類來維護訊息,每個topic可以配置多個partition(分割槽),每個分割槽只能被乙個消費者消費,每個partition對應乙個commit log檔案

producer我們將發布(

publish

)訊息到topic的程序稱之為生產者(

producer)

consumer我們將訂閱(

subscribe

)topic

並且處理topic中訊息的程序稱之為消費者(

consumer)

brokerkafka

以集群的方式執行,集群中的每一台伺服器稱之為乙個**(

broker)。

topic

是乙個類別的名稱,所有的message傳送到topic下面。對於每乙個topic,kafka集群按照如下方式維護乙個分割槽(partition,可以就理解為乙個佇列queue)日誌檔案

partition

是乙個有序的message序列,這些message按順序新增到乙個叫做commit log的檔案中

kafka單播和多播實現靠組的概念來實現,乙個partition只能被同乙個組的乙個consumer消費,但可以被不同組的consumer消費

連線kafka集群時不必寫所有的連線字串,客戶端會通過zookeeper找到leader位址

kafka通過zookeeper分布式鎖進行leader選舉

2、安裝環境: centos 7、jdk8、kafka_2.12-2.1.0 、zookeeper-3.4.12

wget 

tar -xzf kafka_2.11-1.1.0.tgz

cd kafka_2.11-1.1.0

3.集群配置

修改config/server.properties屬性

#不能重複

broker.id=1

listeners=plaintext://:9093

log.dir=/tmp/kafka-logs-1

zookeeper.connect=192.168.214.128:2181,192.168.214.129:2181,192.168.214.130:2181

啟動#   [-daemon]後台執行

# bin/kafka-server-start.sh -daemon config/server-1.properties

# bin/kafka-server-start.sh -daemon config/server-2.properties

# bin/zkcli.sh

# ls /   #

檢視zk的根目錄kafka相關節點

# ls /brokers/ids #

檢視kafka節點

Kafka詳解二 如何配置Kafka集群

kafka集群配置比較簡單,為了更好的讓大家理解,在這裡要分別介紹下面三種配置 1.首先啟動zookeeper服務 kafka本身提供了啟動zookeeper的指令碼 在kafka bin 目錄下 和zookeeper配置檔案 在kafka config 目錄下 首先進入kafka的主目錄 可通過 ...

Kafka詳解二 如何配置Kafka集群

kafka集群配置比較簡單,為了更好的讓大家理解,在這裡要分別介紹下面三種配置 1.首先啟動zookeeper服務 kafka本身提供了啟動zookeeper的指令碼 在kafka bin 目錄下 和zookeeper配置檔案 在kafka config 目錄下 首先進入kafka的主目錄 可通過 ...

kafka集群配置 windows版

1.拷貝conf server.properties為 第乙個節點server 9093.properties,修改如下內容 broker.id 9093 port 9093 host.name 127.0.0.1 log.dirs tmp kafka logs 9093 zookeeper.con...