Kafka集群部署以及常用命令

2021-10-02 07:51:26 字數 1921 閱讀 1240

wget
2、解壓安裝包

tar -zxvf/export/software/kafka_2.11-1.1.0.tgz -c /export/servers/
3、修改配置檔案

進入配置檔案目錄

cd /export/servers/kafka/config
需要配置的檔案有3個

producer.properties

server.properties

consumer.properties

4、分發安裝包

scp -r/export/servers/kafka_2.11-1.1.0 kafka02:/export/servers
然後分別在各機器上建立軟鏈結

cd /export/servers/

ln -s kafka_2.11-1.1.0 kafka

5、再次修改各節點配置檔案

依次修改每個節點的server.properties中的broker.id和host.name

6、啟動集群

依次在每個節點啟動

nohup bin/kafka-server-start.sh config/server.properties &
檢視當前伺服器中的所有topic

bin/kafka-topics.sh --list --zookeeper hd001:2181
建立topic

bin/kafka-topics.sh --create --zookeeper node1:2181 --replication-factor 3 --partitions 3 --topic test
刪除topic

bin/kafka-topics.sh --delete --zookeeper node1:2181 --topic test
需要server.properties中設定delete.topic.enable=true否則只是標記刪除或者直接重啟。

通過shell命令傳送訊息

bin/kafka-console-producer.sh --broker-list node1:9092 --topic test
通過shell消費訊息

bin/kafka-console-consumer.sh --zookeeper node1:2181 --from-beginning --topic test

#1.1.0版本:

./bin/kafka-console-consumer.sh --topic test --bootstrap-server node1:9092

檢視消費位置

bin/kafka-run-class.sh kafka.tools.consumeroffsetchecker --zookeeper node1:2181 --group testgroup
檢視某個topic的詳情

bin/kafka-topics.sh --topic test --describe --zookeeper node1:2181
對分割槽數進行修改

bin/kafka-topics.sh --zookeeper  node1 --alter --partitions 3 --topic test

kafka集群安裝部署及常用命令

安裝前的準備工作 zk集群已經部署完畢 l 關閉防火牆 chkconfig iptables off setenforce 0 l 建立使用者 groupadd realtime useradd realtime usermod a g realtime realtime l 建立工作目錄並賦權 m...

kafka常用命令

kafka常用操作命令 l檢視當前伺服器中的所有topic bin kafka topics.sh list zookeeper hadoop02 2181 l建立topic kafka topics.sh create zookeeper hadoop02 2181 replication fac...

kafka常用命令

啟動集群 nohup bin kafka server start.sh config server.properties 建立topic kafka topics topictt replication factor3 partitions3 create zookeeper hadoop1 21...