Kafka 監控調研

2021-07-03 16:27:02 字數 2314 閱讀 2147

1.如何監控kafka

kafka的資料統計是通過metrics的工具進行收集的,kafka大量使用了metrics做各種效能統計。

kafka沒有自己的web管理介面

2.kafka的監控工具?

1jmx視覺化工具

metrics以jmx的形式提供了對外檢視資料的介面,所以我們可以在kafka啟動的時候指定jmx的埠,然後通過視覺化的工具檢視即可。

2kafkaoffsetmonitor

優點:使用簡單,配置簡單,介面簡單

缺點:不能自動重新整理,必須手動重新整理

,功能覆蓋不全

功能:1.consumer消費情況進行監控,並能列出每個consumeroffset的滯後資料

2.每個topic的partition的列表(topic,pid,offset,logsize,logsize,lag,owner)

3.檢視topic的歷史消費資訊

3kafka-web-console

優點:重新整理較快,功能比較齊全

缺點:搭建比較負責

scala

開發,構建工具

sbt

預設的資料庫是

h2

功能:1.broker

:kafka

集群資訊 2.

topics

:分割槽(

partition

)數,logsize

,分割槽的

leader 3.

consumer

:group

,partitionoffset

,lag

(落後,延遲)

graphs

展示consumer

的offset

和lag 4.

其他 latestpublished topic messages

kafka管理器:

可以管理多個集群

檢查集群的狀態:

topics

、brokers

、副本的分布、分割槽的分布

支援選擇副本:?

支援副本重新分配

建立topic

*)其他

csvmetricsreporter    將相應的指標分別寫入到csv檔案中,然後用指令碼採集即可。

將jmx埠暴漏出來,用jmxtrans把資料發到ganglia

kafka提供的指令碼:bin/kafka-run-class.shkafka.tools.consumeroffsetchecker --zkconnect localhost:2181 --group test

優點:可以獲取所有可用的監控指標

缺點:使用不夠方便、直觀

3.kafka的監控指標

kafka

集群的狀態:

broker

、topic

、pattion

、replication

、leader

、分布是否均勻

topics:

每個topic

的partition

的列表(

topic

,pid

,offset

,logsize

,logsize

,lag

,owner)

consumer:

group

,partition offset

,lag

(落後,延遲)

kafka實時監控

在kafka的開發和維護中,我們經常需要了解kafka topic以及連線在其上的consumer的實時資訊,比如logsize,offset,owner等。為此kafka提供了consumeroffsetchecker,它的用法很簡單 bin kafka run class.sh kafka.to...

Kafka 訊息監控 Kafka Eagle

在開發工作當中,消費 kafka 集群中的訊息時,資料的變動是我們所關心的,當業務並不複雜的前提下,我們可以使用 kafka 提供的命令工具,配合 zookeeper 客戶端工具,可以很方便的完成我們的工作。隨著業務的複雜化,group 和 topic 的增加,此時我們使用 kafka 提供的命令工...

Kafka 訊息監控 Kafka Eagle

在開發工作當中,消費 kafka 集群中的訊息時,資料的變動是我們所關心的,當業務並不複雜的前提下,我們可以使用 kafka 提供的命令工具,配合 zookeeper 客戶端工具,可以很方便的完成我們的工作。隨著業務的複雜化,group 和 topic 的增加,此時我們使用 kafka 提供的命令工...