資料倉儲的分割槽與分桶

2021-10-06 08:19:18 字數 630 閱讀 4243

分割槽解釋:將資料倉儲內儲存資料量大的表,按表中列值進行切片,列值一樣的資料劃分到一起,列值分類有多少種就至少有這麼多的分割槽目錄。如:某電商公司訂單表按天分割槽,按訂單表的下單時間在同一天的資料劃分到乙個目錄中。

分桶解釋:將資料倉儲內儲存資料量大的表,按表中列值的hash值對想劃分的桶數取模,值一樣活著同樣在某些範圍內的資料劃分到一起,劃分桶數有多少就有多少分桶目錄。如:某電商公司訂單表按天分割槽下再按訂單號分桶,按訂單表的下單時間在同一天的資料劃分到乙個目錄中,再將資料按訂單號進行hash取值,若分桶數是3,則對3取模,取模結果想同的放在一起。

比較

1.都是對資料檔案進行劃分,但是劃分的方式不一樣,分割槽是粗粒度的切片劃分,分桶是細粒度的劃分。

2.分割槽按值切分,可能會讓分割槽目錄大小不一樣,分桶會讓分完的每個桶大小相差無幾。

3.分割槽和分桶都可以加快**查詢速度,但加快的方向不太一樣,分割槽更多在於對資料過濾以及表關聯或者統計時省卻全表掃瞄,而分桶的速度加成直接體現在兩個分桶表在用各自的分桶字段,可以使用 map 端連線 (map-side join)高效的實現。

4.分割槽和分桶各自還有乙個優點就是,分割槽便於對資料進行管理,分桶使資料取樣更便捷。

Hive資料倉儲工具(四)分割槽和分桶

目錄 一 分割槽和分桶的概念 分割槽 分桶 二 分割槽實現 1 建立分割槽 按年建立分割槽t1 按年月建立分割槽t2 2 向分割槽新增資料 向年分割槽t1中新增資料 向年月分割槽t2新增資料 3 效果如下 年分割槽 年月分割槽 三 分桶的實現 1 分桶之前要執行命令hive.enforce.buck...

hive分割槽與分桶

在hive select查詢中一般會掃瞄整個表內容,會消耗很多時間做沒必要的工作。有時候只需要掃瞄表中關心的一部分資料,因此建表時引入了partition概念。分割槽表指的是在建立表時指定的partition的分割槽空間。hive可以對資料按照某列或者某些列進行分割槽管理,所謂分割槽我們可以拿下面的...

資料倉儲與資料庫比較,Hive資料倉儲與資料庫比較

hive是乙個翻譯工具,將sql翻譯為底層mr程式的,它不是資料庫,只不過在表現形式上和資料庫有很多類似而已 比如表 database 欄位等 資料庫可以增刪查改,資料倉儲只可以增刪查 資料倉儲支援很大規模的資料 資料庫支援的資料規模較小 資料倉儲沒有索引,資料庫有 資料倉儲可擴充套件性強,資料庫弱...