Hbase中百萬級request不是痴人說夢

2021-06-12 01:31:28 字數 397 閱讀 1601

昨天和乙個網際網路公司leader聊天,我說我們hbase集群(幾十台小集群)的寫請求達到過百萬級別,那個leader死活不信。說他們pb級別的資料每秒都在入庫也壓不到百萬級別請求。

啥都不說,先上圖吧,有圖有真相。

仔細看一下**,不難發現writerequestscount 這個值不是進行一次rpc才增加一次,而是一條put就增加一次。也就是說一次rpc可能多條put。

把compact、split 和 flush都關掉,用mr進行入庫程式,加大map的數量,關鍵還有增大writebuffer的大小,就能很容易的把request數搞上去.........

元芳,你怎麼看?

HBase表百萬資料插入

寫前日誌個人理解是一種安全回滾機制,若機器在執行操作過程中機器宕機需要回滾的話,需要讀取寫前編輯日誌進行資料回滾,防止資料的丟失,此處關閉的話為了提公升效率,看業務場景,不是很重要的話可以選擇關閉來提高插入效率。put物件呼叫setwritetowal false 緩衝區入開啟,緩衝區存在資料,資料...

Golang百萬級高併發實踐

go語言作為新興的語言,最近發展勢頭很是迅猛,其最大的特點就是原生支援併發。它使用的是 協程 goroutine 模型 和傳統基於 os 執行緒和程序實現不同,go 語言的併發是基於使用者態的併發,這種併發方式就變得非常輕量,能夠輕鬆執行幾萬併發邏輯。go 的併發屬於 csp 併發模型的一種實現,c...

百萬級SQL分頁儲存過程

百萬級sql分頁儲存過程,請尊重原作者資訊.我只是更新一部分資料,原作者在分頁的處理過程中有一點錯誤.檢測了程式.發現並休正過來的.descript 分頁儲存過程 author blue.dream date 2004 8 18 21 01 update xqf222 date 18 11 2007...