kafka部署模式

2021-08-07 05:31:58 字數 3822 閱讀 5230

1)單broker模式

2)單機多broker模式 (偽集群)

3)多機多broker模式 (真正的集群模式)

第一種單broker模式

2. 解壓kafka:tar xvf  kafka_2.9.1-0.8.2.1.tgz  解壓到/usr/local

3. 修改配置檔案:

config/zookeeper.properties

1)datadir=/usr/local/kafka/tmp/zookeeper/

2)clientport=2181

config/server.properties

1)log.dirs=/usr/local/kafka/tmp/kafka-logs

4. 啟動服務

1)啟動zookeeper服務

bin/zookeeper-server-start.sh  config/zookeeper.properties > tmp/zookeeper.log  2>&1 &

2)啟動kafka服務

bin/kafka-server-start.sh  config/server.properties > tmp/kafka.log  2>&1 &

3)檢視啟動是否成功    

jps

5. topic

1)建立主題(test),乙個分割槽、乙個副本

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1  --partitions  1  --topic   test

2)檢視所有topic

bin/kafka-topics.sh  --list  --zookeeper  localhost:2181

3)檢視乙個主題(

test)詳情

bin/kafka-topics.sh  --describe --zookeeper localhost:2181  --topic test

test主題和mall主題詳情: 

第一行是所有partition的總結。後面的行是每個partition一行。

4)刪除主題

bin/kafka-run-class.sh kafka.admin.deletetopiccommand --topic test --zookeeper localhost:2181

6.建立生產者

bin/kafka-console-producer.sh --broker-list localhost:9092  --topic test

7.建立消費者

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test  --from-beginning

第二種單機多broker模式

1. 修改配置檔案:

config/zookeeper.properties(和第一種一樣)

config/server.properties,複製乙個server1.properties和server2.properties

修改server1.properties 1)

broker.id=1

2)port=9093

3)log.dirs=/usr/local/kafka/tmp/kafka1-logs

修改server2.properties

1)broker.id=2

2)port=9094

3)log.dirs=/usr/local/kafka/tmp/kafka2-logs

2. 啟動服務

1)啟動zookeeper服務

bin/zookeeper-server-start.sh  config/zookeeper.properties > tmp/zookeeper.log  2>&1 &

2)啟動kafka服務

bin/kafka-server-start.sh  config/server.properties > tmp/kafka.log  2>&1 &

bin/kafka-server-start.sh  config/server1.properties > tmp/kafka1.log  2>&1 &

bin/kafka-server-start.sh  config/server2.properties > tmp/kafka2.log  2>&1 &

3)檢視啟動是否成功     jps

第三種多機多broker模式

主機列表為:192.168.30.104、192.168.30.105、192.168.30.106

1. 修改配置檔案:

config/zookeeper.properties

1)datadir=/usr/local/kafka/data

2)ticktime=2000

3)initlimit=5

4)synclimit=2

5)zookeeper主機列表清單

需要在 /usr/local/kafka/data/中新建myid檔案,

192.168.30.104主機內容為104

192.168.30.105主機內容為105

192.168.30.106主機內容為106

config/server.properties,複製乙個server1.properties和server2.properties

修改server1.properties

1)broker.id=***

192.168.30.104主機

內容為104

192.168.30.105主機內容為105

192.168.30.106主機內容為106

2)host.name=192.168.30.106

192.168.30.104主機內容為192.168.30.104

192.168.30.105主機內容為192.168.30.105

192.168.30.106主機內容為192.168.30.106

3)log.dirs=/usr/local/kafka/tmp/kafka-logs

4)num.partitions=2

5)zookeeper.connect=192.168.30.104:2181,192.168.30.105:2181,192.168.30.106:2181

2. 啟動服務

1)啟動zookeeper服務(依次啟動3臺主機)

bin/zookeeper-server-start.sh  config/zookeeper.properties > tmp/zookeeper.log  2>&1 &

2)啟動kafka服務(依次啟動3臺主機)

bin/kafka-server-start.sh  config/server.properties > tmp/kafka.log  2>&1 &

3)檢視啟動是否成功     jps

3. topic

1)建立主題(test),2個分割槽、3個副本

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3  --partitions  2  --topic   mall

Kafka集群模式部署

環境 kafka 0.8.1.1 基本概念 kafka維護按類區分的訊息,稱為主題 topic 生產者 producer 向kafka的主題發布訊息 消費者 consumer 向主題註冊,並且接收發布到這些主題的訊息 kafka以乙個擁有一台或多台伺服器的集群執行著,每一台伺服器稱為broker z...

Kafka單機模式部署

安裝步驟見 zookeeper部署 解壓包上傳至linux伺服器opt目錄下 cd opt 解壓tgz包 tar xvf kafka 2.12 2.3.0.tgz 修改server.properties配置檔案 vi opt kafka 2.12 2.3.0 config server.proper...

Kafka 單機kafka部署

1 上傳部署包 kafka 2.11 0.11.0.0.tgz 放到 opt software 2 解壓 tar zxvf kafka 2.11 0.11.0.0.tgz c opt module 3 切換目錄 opt module kafka 2.11 0.11.0.0 conf 4 修改配置 v...