三種基本的儲存引擎比較

2021-09-12 10:44:26 字數 2988 閱讀 5831

1、hash儲存引擎

代表資料庫:redis、memcache等

通常也常見於其他儲存引擎的查詢速度優化上。 hash 索引結構的特殊性,其檢索效率非常高,索引的檢索可以一次定位,不像b-tree 索引需要從根節點到枝節點,最後才能訪問到頁節點這樣多次的io訪問,所以 hash 索引的查詢效率要遠高於 b-tree 索引。雖然 hash 索引效率高,但是 hash 索引本身由於其特殊性也帶來了很多限制和弊端。

這裡列舉缺點:

(1)hash 索引僅僅能滿足"=","in"和"<=>"查詢,不能使用範圍查詢。

(2)hash 索引無法被用來避免資料的排序操作。

(3)hash 索引不能利用部分索引鍵查詢。

(4)hash 索引在任何時候都不能避免表掃瞄。

hash碰撞,就是鏈式掃瞄:由於不同索引鍵存在相同 hash 值,所以即使取滿足某個 hash 鍵值的資料的記錄條數,也無法從 hash索引中直接完成查詢,還是要通過訪問表中的實際資料進行相應的比較,並得到相應的結果。

(5)hash 索引遇到大量hash值相等的情況後效能並不一定就會比b-tree索引高。

2、b樹儲存引擎

代表資料庫:mongodb、mysql(基本上關係型資料庫)等

有一種算是b樹儲存引擎:cola樹(cacheobliviousbtree)

代表資料庫:tokudb

為了如何讓b樹更有效的執行,他們提出了乙個快取忘卻cacheoblivious演算法,該演算法在不需要明確知道儲存器層次中資料傳輸規模的情況下,也可以高效的工作。更多請參見:

說個大家熟悉的名稱tokumx : 目前非常流行的nosql資料庫mongodb的底層替換成與tokudb同樣的儲存引擎[ tokumx],達到了非常好的效 果

3、lsm樹(log-structured merge tree)儲存引擎

代表資料庫:nessdb、leveldb、hbase等

核心思想的核心就是放棄部分讀能力,換取寫入的最大化能力。lsm tree ,這個概念就是結構化合併樹的意思,它的核心思路其實非常簡單,就是假定記憶體足夠大,因此不需要每次有資料更新就必須將資料寫入到磁碟中,而可以先將最新的資料駐留在磁碟中,等到積累到最後多之後,再使用歸併排序的方式將記憶體內的資料合併追加到磁碟隊尾(因為所有待排序的樹都是有序的,可以通過合併排序的方式快速合併到一起)。

日誌結構的合併樹(lsm-tree)是一種基於硬碟的資料結構,與b-tree相比,能顯著地減少硬碟磁碟臂的開銷,並能在較長的時間提供對檔案的高速插入(刪除)。然而lsm-tree在某些情況下,特別是在查詢需要快速響應時效能不佳。通常lsm-tree適用於索引插入比檢索更頻繁的應用系統。bigtable在提供tablet服務時,使用gfs來儲存日誌和sstable,而gfs的設計初衷就是希望通過新增新資料的方式而不是通過重寫舊資料的方式來修改檔案。而lsm-tree通過滾動合併和多頁塊的方法推遲和批量進行索引更新,充分利用記憶體來儲存近期或常用資料以降低查詢代價,利用硬碟來儲存不常用資料以減少儲存代價。

磁碟的技術特性:對磁碟來說,能夠最大化的發揮磁碟技術特性的使用方式是:一次性的讀取或寫入固定大小的一塊資料,並盡可能的減少隨機尋道這個操作的次數。

lsm和btree差異就要在讀效能和寫效能進行舍和求。在犧牲的同事,尋找其他方案來彌補。

1、lsm具有批量特性,儲存延遲。當寫讀比例很大的時候(寫比讀多),lsm樹相比於b樹有更好的效能。因為隨著insert操作,為了維護b樹結構,節點**。讀磁碟的隨機讀寫概率會變大,效能會逐漸減弱。 多次單頁隨機寫,變成一次多頁隨機寫,復用了磁碟尋道時間,極大提公升效率。

2、b樹的寫入過程:對b樹的寫入過程是一次原位寫入的過程,主要分為兩個部分,首先是查詢到對應的塊的位置,然後將新資料寫入到剛才查詢到的資料塊中,然後再查詢到塊所對應的磁碟物理位置,將資料寫入去。當然,在記憶體比較充足的時候,因為b樹的一部分可以被快取在記憶體中,所以查詢塊的過程有一定概率可以在記憶體內完成,不過為了表述清晰,我們就假定記憶體很小,只夠存乙個b樹塊大小的資料吧。可以看到,在上面的模式中,需要兩次隨機尋道(一次查詢,一次原位寫),才能夠完成一次資料的寫入,代價還是很高的。

3、lsm tree放棄磁碟讀效能來換取寫的順序性,似乎會認為讀應該是大部分系統最應該保證的特性,所以用讀換寫似乎不是個好買賣。但別急,聽我分析一下。

a、記憶體的速度遠超磁碟,1000倍以上。而讀取的效能提公升,主要還是依靠記憶體命中率而非磁碟讀的次數

b、寫入不占用磁碟的io,讀取就能獲取更長時間的磁碟io使用權,從而也可以提公升讀取效率。例如leveldb的sstable雖然降低了了讀的效能,但如果資料的讀取命中率有保障的前提下,因為讀取能夠獲得更多的磁碟io機會,因此讀取效能基本沒有降低,甚至還會有提公升。而寫入的效能則會獲得較大幅度的提公升,基本上是5~10倍左右。

下面說說詳細例子:

lsm tree弄了很多個小的有序結構,比如每m個資料,在記憶體裡排序一次,下面100個資料,再排序一次……這樣依次做下去,我就可以獲得n/m個有序的小的有序結構。

在查詢的時候,因為不知道這個資料到底是在**,所以就從最新的乙個小的有序結構裡做二分查詢,找得到就返回,找不到就繼續找下乙個小有序結構,一直到找到為止

很容易可以看出,這樣的模式,讀取的時間複雜度是(n/m)*log2n 。讀取效率是會下降的。

這就是最本來意義上的lsm tree的思路。那麼這樣做,效能還是比較慢的,於是需要再做些事情來提公升,怎麼做才好呢?

lsm tree優化方式:

a、bloom filter: 就是個帶隨即概率的bitmap,可以快速的告訴你,某乙個小的有序結構裡有沒有指定的那個資料的。於是就可以不用二分查詢,而只需簡單的計算幾次就能知道資料是否在某個小集合裡啦。效率得到了提公升,但付出的是空間代價。

b、compact:小樹合併為大樹:因為小樹他效能有問題,所以要有個程序不斷地將小樹合併到大樹上,這樣大部分的老資料查詢也可以直接使用log2n的方式找到,不需要再進行(n/m)*log2n的查詢了。

三種基本的儲存引擎比較

1 hash儲存引擎 代表資料庫 redis memcache等 通常也常見於其他儲存引擎的查詢速度優化上。hash 索引結構的特殊性,其檢索效率非常高,索引的檢索可以一次定位,不像b tree 索引需要從根節點到枝節點,最後才能訪問到頁節點這樣多次的io訪問,所以 hash 索引的查詢效率要遠高於...

三種基本的儲存引擎比較

1 hash儲存引擎 代表資料庫 redis memcache等 通常也常見於其他儲存引擎的查詢速度優化上。hash 索引結構的特殊性,其檢索效率非常高,索引的檢索可以一次定位,不像b tree 索引需要從根節點到枝節點,最後才能訪問到頁節點這樣多次的io訪問,所以 hash 索引的查詢效率要遠高於...

三種基本的儲存引擎比較

1 hash儲存引擎 代表資料庫 redis memcache等 通常也常見於其他儲存引擎的查詢速度優化上。hash 索引結構的特殊性,其檢索效率非常高,索引的檢索可以一次定位,不像b tree 索引需要從根節點到枝節點,最後才能訪問到頁節點這樣多次的io訪問,所以 hash 索引的查詢效率要遠高於...