Kafka 常用命令

2021-10-20 12:14:06 字數 3970 閱讀 4254

主題的分割槽和副本管理

控制台生產者使用--測試的時候使用

控制台消費者使用--測試的時候使用

進入kafka 系統訊息資料儲存目錄/export/data/kafka/kafka-logs 中檢視

cd /export/data/kafka/kafka-logs

ll也可以通過zkcli.sh 指令碼連線到zookeepr 去訪問主題分割槽資訊和元資料資訊

建立乙個新的主題, 1 個分割槽, 1 個副本

kafka-topics.sh --zookeeper node01:

2181

--create --topic user --replication-factor 1

--partitions 1

--config max.message.bytes=

102400

檢視覆蓋的配置引數

kafka-topics.sh --zookeeper node01:

2181

--describe --topic user --topics-

with

-overrides

修改大小

kafka-topics.sh --zookeeper node01:

2181

--alter --topic user --config max.message.bytes=

204800

再次檢視

kafka-topics.sh --zookeeper node01:

2181

--describe --topic user --topics-

with

-overrides

建立主題

kafka-topics.sh --zookeeper node01:

2181

--create --topic test_delete --replication-factor 1

--partitions 1

刪除主題

kafka-topics.sh --zookeeper node01:

2181

--delete --topic test_delete

檢視主題

kafka-topics.sh --zookeeper node01:

2181

--list

注意:如果要刪除主題,必須在server.properties中配置了如下配置

delete.topic.enable=

true

kafka-topics.sh  --zookeeper node01:

2181 \

--list

kafka-topics.sh  --zookeeper node01:

2181 \

--create \

--topic test_delete \

--replication-factor 1 \

--partitions 1

檢視

kafka-topics.sh --zookeeper node01:

2181

--describe --topic user

修改分割槽數(只能增加)

kafka-topics.sh --zookeeper node01:

2181

--alter --topic user --partitions 3

檢視kafka-topics.sh --zookeeper node01:

建立主題

kafka-topics.sh --zookeeper node01:

2181

--create --topic user2 --replication-factor 1

--partitions 6

--config max.message.bytes=

102400

檢視kafka-topics.sh -describe -zookeeper node01:

2181

--topic user2

,,

,,,]

}

載入指令碼修改副本數

kafka-reassign-partitions.sh --zookeeper node01:

2181

--reassignment-json-file user2_replicas.json --execute

檢視執行結果

kafka-reassign-partitions.sh --zookeeper node01:

2181

--reassignment-json-file user2_replicas.json --verify

檢視分割槽結果

kafka-topics.sh -describe -zookeeper node01:

2181

--topic user2

kafka-console-producer.sh --broker-list node01:

9092

--topic test_topic

• 舊的:在kafka 0.10.0.x 之前的版本中,kafka 系統預設的消費方式是將消費例項產生的元資料資訊儲存到zookeeper 集群。

1.使用控制台消費者測試接收訊息

推薦使用的

kafka-console-consumer.sh --bootstrap-server node01:

9092

--topic test_topic --from-beginning

kafka-console-consumer.sh --zookeeper node01:

2181

--topic test_topic --from-beginning

kafka常用命令

kafka常用操作命令 l檢視當前伺服器中的所有topic bin kafka topics.sh list zookeeper hadoop02 2181 l建立topic kafka topics.sh create zookeeper hadoop02 2181 replication fac...

kafka常用命令

啟動集群 nohup bin kafka server start.sh config server.properties 建立topic kafka topics topictt replication factor3 partitions3 create zookeeper hadoop1 21...

Kafka 常用命令

kafka console producer broker list 127.0.0.1 9092 topic mytopic kafka console consumer bootstrap server 127.0.0.1 9092 topic mytopic 建立主題,replication ...