kafka基本操作例項

2021-08-21 04:53:20 字數 3292 閱讀 6939

1、啟動命令:(任意節點建立)

nohup kafka-server-start.sh \

2、建立topic

kafka-topics.sh \

--create \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--replication-factor 3 \

--partitions 10 \

--topic kafka_test

kafka-topics.sh \

--create \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--replication-factor 1 \

--partitions 1 \

--topic weblog

引數解釋:

--create 建立 kafka topic

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181     指定 kafka 的 zookeeper 位址

--replication-factor 指定每個分割槽的副本個數

--partitions 指定分割槽的個數

3、檢視已經建立的所有 kafka topic(在任意節點上檢視)

kafka-topics.sh \

--list \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181

4、檢視某個指定的 kafka topic 的詳細資訊:

kafka-topics.sh \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--describe \

--topic kafka_test

結果展示:

topic:kafka_test        partitioncount:10       replicationfactor:3     configs:

topic: kafka_test       partition: 0    leader: 2       replicas: 2,3,1 isr: 2,3,1

topic: kafka_test       partition: 1    leader: 3       replicas: 3,1,2 isr: 3,1,2

topic: kafka_test       partition: 2    leader: 1       replicas: 1,2,3 isr: 1,2,3

topic: kafka_test       partition: 3    leader: 2       replicas: 2,1,3 isr: 2,1,3

topic: kafka_test       partition: 4    leader: 3       replicas: 3,2,1 isr: 3,2,1

topic: kafka_test       partition: 5    leader: 1       replicas: 1,3,2 isr: 1,3,2

topic: kafka_test       partition: 6    leader: 2       replicas: 2,3,1 isr: 2,3,1

topic: kafka_test       partition: 7    leader: 3       replicas: 3,1,2 isr: 3,1,2

topic: kafka_test       partition: 8    leader: 1       replicas: 1,2,3 isr: 1,2,3

topic: kafka_test       partition: 9    leader: 2       replicas: 2,1,3 isr: 2,1,3

第一行是對所有分割槽的乙個描述,然後每個分割槽都會對應一行

topic:topic 名稱

partition:topic 的分割槽編號

leader:負責處理訊息的讀和寫,leader 是從所有節點中隨機選擇的。

replicas:列出了所有的副本節點,不管節點是否在服務中。

isr:正在服務中的節點。

5、開啟生產者模擬生成資料:

kafka-console-producer.sh \

--broker-list hadoop1:9092,hadoop2:9092,hadoop3:9092 \

--topic kafka_test

6、開啟消費者模擬消費資料:

kafka-console-consumer.sh \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--from-beginning \

--topic kafka_test

7、檢視某 topic 某個分割槽的偏移量最大值和最小值

kafka-run-class.sh \

kafka.tools.getoffsetshell \

--topic kafka_test \

--time -1 \

--broker-list hadoop1:9092,hadoop2:9092,hadoop3:9092 \

--partitions 1

8、增加 topic 分割槽數

kafka-topics.sh \

--alter \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--topic kafka_test \

--partitions 20

kafka-topics.sh \

--alter \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--topic kafka_test \

--replication-factor 2

9、刪除 topic

kafka-topics.sh \

--delete \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--topic kafka_test

kafka-topics.sh \

--delete \

--zookeeper hadoop1:2181,hadoop2:2181,hadoop3:2181 \

--topic weblog

kafka基本操作

一 topic 1.檢視全部topic kafka topics.sh zookeeper localhost 2181 list 2.建立topic,指定分割槽數目和備份因子 kafka topics.sh zookeeper localhost 2181 create topic topic n...

Kafka 基本概述 操作

點對點 一對一,消費者消費後立刻清除訊息 發布 訂閱模式 一對多,消費者消費資料之後不會清除訊息 producer 訊息生產者,想kafka broker傳送訊息的客戶端 consumer 訊息消費者,想kafka broker取訊息的客戶端 consumer group cg 消費者組,多個con...

C map基本操作例項

c stl的map是乙個基於紅黑樹的容器類,查詢和刪除的效率都是o logn 這是乙個通過空間消耗獲得時間效率的典型模式。通過具體的例子來看下這個容器類的插入,刪除和查詢操作。include include include using namespace std void mapexample 我們...