kafka單節點多broker部署及使用

2021-10-05 06:41:16 字數 2640 閱讀 6741

kafka單節點多broker部署及使用

將配置檔案server.properties複製三份

cp server.properties server-1.properties

更新配置檔案 server-1.properties 中引數

broker.id=1

listeners=plaintext://hadoop001:9093

log.dirs=/usr/soft/data/kafka-logs-1

cp server.properties server-2.properties

更新配置檔案 server-2.properties 中引數

broker.id=2

listeners=plaintext://hadoop001:9094

log.dirs=/usr/soft/data/kafka-logs-2

cp server.properties server-3.properties

更新配置檔案 server-3.properties 中引數

broker.id=3

listeners=plaintext://hadoop001:9095

log.dirs=/usr/soft/data/kafka-logs-3

啟動kafka自帶的zookeeper

./zookeeper-server-start.sh …/config/zookeeper.properties

後台啟動的三個kafka

./kafka-server-start.sh -daemon …/config/server-1.properties &

./kafka-server-start.sh -daemon …/config/server-2.properties &

./kafka-server-start.sh -daemon …/config/server-3.properties &

–建立topic

./kafka-topics.sh --create --zookeeper hadoop001:2181 --replication-factor 3 --partitions 1 --topic my-replicated-topic

–描述topic

./kafka-topics.sh --describe --zookeeper hadoop001:2181 --topic my-replicated-topic

據圖,可以看到我們成功建立了topic

啟動生產者

./kafka-console-producer.sh --broker-list hadoop001:9093,hadoop001:9094,hadoop001:9095 --topic my-replicated-topic

啟動消費者

./kafka-console-consumer.sh --bootstrap-server hadoop001:9093 --from-beginning --topic my-replicated-topic

**注意:**在生產者客戶端輸入內容,在消費者客戶端未收到訊息。了解到,kafka的預設埠是9092,我們將建立的topic my-replicated-topic 刪除

./kafka-topics.sh --delete --zookeeper hadoop001:2181 --topic my-replicated-topic

殺掉一起動kafka的程序,重新啟動3個kafka程序,

./kafka-server-start.sh -daemon …/config/server.properties &

./kafka-server-start.sh -daemon …/config/server-1.properties &

./kafka-server-start.sh -daemon …/config/server-2.properties &

–建立topic

./kafka-topics.sh --create --zookeeper hadoop001:2181 --replication-factor 3 --partitions 1 --topic my-replicated-topic

啟動生產者

./kafka-console-producer.sh --broker-list hadoop001:9092,hadoop001:9093,hadoop001:9094 --topic my-replicated-topic

啟動消費者

./kafka-console-consumer.sh --bootstrap-server hadoop001:9092 --from-beginning --topic my-replicated-topic

在生產者控制台輸入內容

會在消費者控制台收到訊息

總結,kafka的預設埠號是9092,所以此次部署一定要啟動

./kafka-server-start.sh -daemon …/config/server.properties &

Kafka單節點多broker配置

1 啟動zookeeper zkserver.sh start 2 配置多個broker 1.在kafka安裝目錄的config目錄下拷貝 server.properties 分別為server 1.properties,server 2.properties,server 3 properties...

Kafka單節點多Broker部署

安裝好zookeeper並啟動服務 broker的編號,必須是唯一的,相當於主鍵 broker.id 0 每個broker監聽的埠 listeners plaintext 9090 日誌目錄,預設目錄在tmp下面,重啟後就會被清空,所以要重新指定乙個目錄 log.dirs root kafka tm...

kafka集群部署,多節點多broker

主機名 ip 位址 安裝路徑 系統135.36.247.91 135.36.247.91 board opt kafka 2.11 1.0.0 centos linux release 7.3.1611 core 135.36.247.92 135.36.247.92 135.36.247.93 1...