kafka常用指令總結

2021-09-19 16:37:44 字數 2226 閱讀 4205

1) kafka官網:

downloads

3) 客戶端庫:

4) librdkafka庫:

二:kafka 版本0.9後的變更及瓶頸

1 服務端增加了groupcoordinator這個角色;

2 topic的offset資訊由之前儲存在zk上改為儲存在乙個特殊的topic(_consumer_offsets)中。

一般瓶頸:網絡卡(一般建議log壓縮)

三:常見指令

建立topic

kafka-topics --create --zookeeper 

《zk位址埠

》--replication-factor 

《副本數

》--partitions 

《分割槽數

》--topic 

《主題名稱》

eg:kafka-topics --create --zookeeper 100.11.211.91:2181 --replication-factor 1 --partitions 3 --topic alarm_car

kafka-topics --create --zookeeper 100.11.211.91:2181 --replication-factor 1 --partitions 3 --topic alarm_

wifi

kafka-topics --create --zookeeper 100.11.211.91:2181 --replication-factor 1 --partitions 3 --topic alarm_

face

理論原則:

1 分割槽數=目標吞吐量/max(乙個topic時生產者吞吐量,乙個topic時消費者吞吐量)

2 消費者組個數 = topic分割槽數

3 副本數量(isr)

列出所有topic

kafka-topics.sh --list --zookeeper 

《zk位址埠》

eg:kafka-topics --list --zookeeper 100.11.211.91:2181

刪除topic

1) kafka-topics.sh --zookeeper localhost:2181 --topic test --delete

2) kafka-topics.sh --zookeeper localhost:2181/kafka --topic test --delete

3) kafka-run-class.sh kafka.admin.deletetopiccommand --zookeeper localhost:2181 --topic test

檢視topic

kafka-topics.sh --describe --zookeeper 

《zk位址埠

》--topic 

《topic名稱》

eg:kafka-topics --describe --zookeeper 100.11.211.91:2181 --topic alarm_car

檢視topic下所有的資料明細:(建乙個消費者從頭開始將topic都消費一遍)

kafka-console-consumer --topic alarm_wifi --from-beginning --bootstrap-server 100.11.211.94:9092,100.11.211.95:9092,100.11.211.96:9092

增加topic的partition數

kafka-topics.sh --zookeeper 

《zk位址埠

》--alter --topic 

《topic名稱

》--partitions 5

檢視有哪些消費者group

新版本:

kafka-consumer-

groups.sh

--new-consumer --bootstrap-server

127.0.0.1

:9292

--list

老版本:

kafka-consumer-groups.sh --zookeeper 

100.11.211.91:2181

/kafka --list

kafka學習筆記 常用指令

常用指令 新建虛擬視窗 kafka,在每台上執行 screen s kafka 退出虛擬視窗 kafka,在每台上執行 ctrl a d 1.建立 topic kafka topics.sh create zookeeper cluster1 2181,cluster2 2181,cluster3 ...

ubuntu常用指令總結

ubuntu常用指令總結 基礎 關機命令 sudo shutdown h now 定時關機 sudo shutdown h 23 00 重啟電腦 sudo reboot 休眠 sudo pm hibernate 檢視ip ifconfig 安裝軟體 sudo apt get install file...

ubuntu常用指令總結

1 進入根目錄 cd 2 進入home目錄 cd home目錄是home下當前使用者的預設目錄,即cd cd home 當前使用者名稱,開啟終端視窗時預設在home目錄下,所以會顯示 usr name device name 例如我的顯示 andrew an andrew optiplex 9020...