架構設計 訊息佇列之Kafka深度解析

2021-10-19 02:46:25 字數 287 閱讀 5878

kafka是一種分布式的,基於發布/訂閱的訊息系統。主要設計目標如下:

● 以時間複雜度為o(1)的方式提供訊息持久化能力,並保證即使對tb級以上資料也能保證常數時間的訪問效能

● 高吞吐率。即使在非常廉價的商用機器上也能做到單機支援每秒100k條訊息的傳輸

● 支援kafka server間的訊息分割槽,及分布式訊息消費,同時保證每個partition內的訊息順序傳輸

● 同時支援離線資料處理和實時資料處理

為什麼要用message queue?《訊息佇列之kafka深度解析》告訴你。

Kafka架構設計

外鏈轉存失敗,源站可能有防盜煉機制,建議將儲存下來直接上傳 img mi3m7ghh 1611887754842 kafka核心概念.png num.network.threads 9 num.io.threads 32 producer設計 批處理記憶體池設計 封裝同一伺服器請求 consumer...

高併發架構設計原則 訊息佇列

解耦 消峰 非同步 有abcd四個系統,a系統有一條資料需要傳給bcd,a系統不僅要關心資料傳送還要處理資料傳送bcd其中產生的異常,如b掛掉了怎麼辦,a是否重傳?如果使用訊息佇列,a系統只負責傳送訊息到訊息佇列,bcd消費訊息佇列中的訊息即可,a系統不關心訊息發給誰了,誰消費失敗了等等問題。類似於...

大資料之訊息佇列 7 如何進行架構設計

1 面試題 如果讓你寫乙個訊息佇列,該如何進行架構設計啊?說一下你的思路 2 面試官心裡分析 其實聊到這個問題,一般面試官要考察兩塊 1 你有沒有對某乙個訊息佇列做過較為深入的原理的了解,或者從整體了解把握住乙個mq的架構原理 2 看看你的設計能力,給你乙個常見的系統,就是訊息佇列系統,看看你能不能...