Kafka學習筆記

2021-10-24 19:57:16 字數 510 閱讀 4709

kafka架構

kafka是乙個分布式的基於發布/訂閱模式的訊息佇列(message queue),主要應用於大資料實時處理領域。

非同步處理

** 這裡非同步處理時就不一定要等到簡訊介面呼叫成功,就返回讓客戶等待驗證碼的頁面,為了不讓客戶覺得是咱系統網路慢的原因哈哈哈**

削鋒:比如簡訊傳送qps高峰導致伺服器扛不住,可以用mq進行快取

可恢復性:系統的一部分元件失效時,不會影響整個系統。mq降低了程序之間的耦合度,所以即使乙個處理訊息的程序掛掉,加入mq中的訊息仍然可以在系統恢復後被處理

緩衝:解決生產》消費的處理情況

靈活性&峰值處理能力:**雙11,使用mq能夠使關鍵元件頂住突發的訪問壓力,而不會因為突發的超負荷的請求而完全崩潰。

訊息生產者(發布)將訊息發布到topic中,同時有多個消費者(訂閱)消費該topic的訊息。

但是需要消費者主動拉取的話,可能就不能實現實時,所以消費者就要有乙個輪詢機制去詢問topic是否有訊息,這裡的缺點就是要一直維護著乙個長輪詢

學習筆記 Kafka

kafka kafka把資料往磁碟上寫,但是在磁碟上存它的讀寫速度比記憶體快,這個依賴於預讀和後寫功能,但是這個預讀和後寫必須是按照順序的方式,若沒有順序的方式優化的話,不存在什麼預讀和後寫。特點 訊息持久化 能落到磁碟 通過o 1 的磁碟資料結構提供資料的持久化 高吞吐量 分布式 擴充套件能力強 ...

Kafka學習筆記

1.1簡介 apache kafka 是分布式發布 訂閱訊息系統 訊息中介軟體 它最初由 linkedin 公司開發,之後成為 apache 專案的一部分。kafka 是一種快速 可擴充套件的 設計內在就是分布式的,分割槽的和可複製的提交日誌服務。apache kafka 與傳統訊息系統相比,有以下...

kafka學習筆記

1.1 kafka的特性 controller在zookeeper註冊watch zookeeper管理kakfabroker集群。所有的kafkabroker節點一起去zookeeper上註冊乙個臨時節點,只有乙個能成功,成功註冊的節點稱之為 kafkabrokercontroller,其餘的稱之...