Hive學習筆記五

目錄

二、資料匯出

三、清除表中資料（truncate）

1、向表中裝載資料（load）

hive>load data [local] inpath '/opt/module/datas/student.txt' [overwrite] into table student [partition (partcol1=val1,…)];

（1）load data:表示載入資料
（2）local:表示從本地載入資料到hive表；否則從hdfs載入資料到hive表
（3）inpath:表示載入資料的路徑
（4）overwrite:表示覆蓋表中已有資料，否則表示追加
（5）into table:表示載入到哪張表
（6）student:表示具體的表
（7）partition:表示上傳到指定分割槽

hive (default)> create table student(id string, name string) row format delimited fields terminated by '\t';

hive (default)> load data local inpath '/opt/module/datas/student.txt' into table default.student;

//上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;
//載入hdfs上資料
hive (default)>load data inpath '/user/itstar/hive/student.txt' into table default.student;

//上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;
//載入資料覆蓋表中已有的資料
hive (default)>load data inpath '/user/itstar/hive/student.txt' overwrite into table default.student;

hive (default)> create table student(id int, name string) partitioned by (month string) row format delimited fields terminated by '\t';

hive (default)> insert into table  student partition(month='201809') values(1,'wangwu');

hive (default)> insert overwrite table student partition(month='201808')

select id, name from student where month='201809';

hive (default)> from student

insert overwrite table student partition(month='201807')
select id, name where month='201809'
insert overwrite table student partition(month='201806')
select id, name where month='201809';

詳見 建立表

根據查詢結果建立表（查詢的結果會新增到新建立的表中）

create table if not exists student3

as select id, name from student;

hive (default)> create table if not exists student5(

id int, name string
)row format delimited fields terminated by '\t'
location '/user/hive/warehouse/student5';

hive (default)> dfs -put /opt/module/datas/student.txt  /user/hive/warehouse/student5;

hive (default)> select * from student5;

注意：先用export匯出後，再將資料匯入。

hive (default)> import table student2 partition(month='201809') from '/user/hive/warehouse/export/student';

hive (default)> insert overwrite local directory '/opt/module/datas/export/student'

select * from student;

hive (default)> insert overwrite local directory '/opt/module/datas/export/student1'

row format delimited fields terminated by '\t' select * from student;

hive (default)> insert overwrite directory '/user/itstar/student2'

row format delimited fields terminated by '\t' 
select * from student;

hive (default)> dfs -get /user/hive/warehouse/student/month=201809/000000_0  /opt/module/datas/export/student3.txt;

基本語法：（hive -f/-e 執行語句或者指令碼 > file）

[itstar@bigdata111hive]$ bin/hive -e 'select * from default.student;' > /opt/module/datas/export/student4.txt;

hive (default)> export table default.student to '/user/hive/warehouse/export/student';

後見注意：truncate只能刪除管理表，不能刪除外部表中資料

hive (default)> truncate table student;

Hive 筆記五 hive的優化

本地模式 嚴格模式 jvm重用 並行執行 推測還行 合併小檔案 fetch模式 1.列裁剪和分割槽裁剪 列裁剪是在查詢時只讀取需要的列 分割槽裁剪就是只讀取需要的分割槽。2.sort by代替 order by 3.group by 代替count distinct 1 common join 普通...

Hive學習筆記（五） DML 資料操作

5.2 資料匯出 5.3 清除表中資料 truncate 1 語法 hive load data local inpath opt module datas student.txt overwrite into table student partition partcol1 val1,1 load...

hive分桶 hive學習筆記之五 分桶

分割槽欄位的每個值都會建立乙個資料夾，值越多資料夾越多 不合理的分割槽會導致有的資料夾下資料過多，有的過少 set hive.enforce.bucketing true 如果不執行上述設定，您需要自行設定mapred.reduce.tasks引數，以控制reducers數量，本文咱們配置為hive...