Kafka監控元件大全

2021-09-25 08:29:19 字數 3191 閱讀 9182

本文使用burrow和telegraf搭建kafka的監控體系。然後,簡單介紹一下其他的,比如kafka manager,kafka eagle,confluent control center等。

burrow

依賴路徑

使用burrow拉取kafka的監控資訊,然後通過telegraf進行收集,最後寫入到influxdb中。使用grafana進行展示。

burrow是kafka社群committer親自編寫的,能夠監控消費端端情況。不過沒有ui介面,開發語言使用的是go。此專案活躍度不是很高,但已經夠用了。

burrow可以支援同時獲取多個集群的資訊,比如,我有兩個集群 dm和 databus,那麼我的配置檔案就可以是下面這樣。

複製**

然後,使用nohup命令啟動即可。

nohup ./burrow -config-dir=./config &

複製**

獲取配置的kafka集群。 http://localhost:8000/v3/kafka 獲取某個集群的消費者資訊。 http://localhost:8000/v3/kafka/databus/consumer

1、建立變數

過濾出所有集群,這樣就可以使用選擇框進行集群選擇。

2、建立圖表

通過cluster過濾集群,然後選擇監控項。可以通過group進行分組。

監控項

burrow_group 監控消費者資訊。包括

lag offset status total_lag patition_count

burrow_patition 監控更加詳細的分割槽資訊,包括

lag offset status

burrow_topic 監控主題相關資訊,包括

offset

支援管理多個集群、選擇副本、副本重新分配以及建立topic、consumer資訊檢視等功能。

除了編譯困難,在拉取大型kafka集群的資訊時,會占用大量資源。

control center是目前能收集到的功能最齊全的kafka監控框架,but只有購買了confluent企業版才有,付費的

官方文件 :docs.confluent.io/current/qui…

注:安裝極為繁瑣(docs.confluent.io/current/ins…

需要使用企業版提供的kafka,否則需要將kafka引入4個jar,修改配置檔案。

另外此服務需要依賴schema-registry、connect-distributed、及kafka-rest等服務,需要開5個埠

炮灰炮灰

以上,就是常用的kafka監控元件。

Kafka 監控調研

1.如何監控kafka?kafka的資料統計是通過metrics的工具進行收集的,kafka大量使用了metrics做各種效能統計。kafka沒有自己的web管理介面 2.kafka的監控工具?1 jmx視覺化工具 metrics以jmx的形式提供了對外檢視資料的介面,所以我們可以在kafka啟動的...

kafka實時監控

在kafka的開發和維護中,我們經常需要了解kafka topic以及連線在其上的consumer的實時資訊,比如logsize,offset,owner等。為此kafka提供了consumeroffsetchecker,它的用法很簡單 bin kafka run class.sh kafka.to...

kafka命令大全

建立主題 4個分割槽,2個副本 bin kafka topics.sh create zookeeper localhost 2181 replication factor 2 partitions 4 topic test 查詢集群描述 bin kafka topics.sh describe z...