Hbase小記 架構設計

2021-10-01 19:38:05 字數 853 閱讀 8342

負責hbase的table region的管理

rs的region的負載均衡

region的** 及**後的region的分配

rs掛的時候 region遷移

負責資料的路由、資料讀寫和資料的持久化

hregionserver dn部署同一臺

乙個rs節點包含多個region,

乙個region根據cf劃分為store,

乙個store包含1個memstore、0或多個storefile。

乙個region只能屬於乙個表,在乙個rs節點上

儲存meta表所在的rs節點和matser位址

rs主動向zk註冊,使得mater可以隨時感知rs的健康狀態

hmaster ha 避免單獨故障

write ahead log --->簡稱wal
寫緩衝 qps 3w-->40w 

region級別(store級別)

有序,當記憶體滿了之後flush成為乙個storefile

當storefile檔案數量增加到一定閾值,觸發compaction-->小合併

memstore其實是乙個記憶體結構儲存,乙個cf對應乙個memstore,資料是字典排序

#storefile

storefile 合併 逐步形成越來越大的storefile-->split **。

#blockcache: 讀快取

是rs級別 乙個rs只有乙個blockcache,啟動時完成初始化動作.

在讀取資料,將資料快取進去

HBase的架構設計為什麼這麼厲害

老劉是一名即將找工作的研二學生,寫部落格一方面是複習總結大資料開發的知識點,一方面是希望能夠幫助和自己一樣自學程式設計的夥伴。由於老劉是自學大資料開發,部落格中肯定會存在一些不足,還希望大家能夠批評指正,讓我們一起進步!我們要提前知道兩個問題,這兩個問題的解決也恰好回答了hbase的架構設計為什麼這...

salesforce 架構設計 從架構設計到架構師

因為碎片化的時間多了,所以開始刷起某乎了,關注了架構相關的板塊,也順手回答了一些問題。發現有很多同道中人正在經歷著我前兩年經歷的階段,對於做架構沒有相對具象的一些理解,更沒有系統化的認識。所以把最近回答的一些內容整理一下,權當記錄,留給3年後的自己 按慣例,容許我裝x開頭 一 架構的定義 在軟體開發...

mysql架構設計 初識mysql架構設計

一 應用系統如何與mysql進行一次互動?最開始接觸jdbc的時候,我們系統如何完成一次sql操作呢?第一步,建立資料庫連線 第二步,操作sql 第三步,釋放連線。但是每次建立與資料庫的連線非常耗時和資源,所以我們加入了連線池的概念。第一步的獲取連線是從連線池中獲取乙個可用的連線,第三步的釋放連線不...