華為平台loader從關係型資料庫到hive

2021-08-19 16:33:39 字數 938 閱讀 7153

注意在loader平台轉換步驟中的hive輸出中選擇好分隔符,字段值中最好不含有此字元。

hive建表語句:

create table table_name

column_name string comment '備註'

row format serde

'org.apache.hadoop.hive.serde2.opencsvserde'

with 

serdeproperties

("separatorchar"="~")

stored as textfile

1、使用sqoop將資料從oracle匯入到hive中命令:

sqoop import --connect 'jdbc:oracle:thin:' --username bobo --password boge --table table_name -hive-import --hive-database db_name --hive-table table_name -m 1

2、使用sqoop將資料從mysql匯入到hive中命令:

sqoop import --connect 'jdbc:mysql:' --username bobo --password boge --table table_name -hive-import --hive-database db_name --hive-table table_name -m 1

3、使用sqoop從hive匯入到mysql:

sqoop export --connect jdbc:mysql: --username bobo --password boge --table table_name --hcatalog-database db_name --hcatalog-table table_name

4、從mysql匯出資料到csv檔案:

5、將csv檔案匯入hive:

從關係型資料庫到非關係型資料庫

關係型資料庫,是指採用了關係模型來組織資料的資料庫。關係模型是在1970年由ibm的研究員e.f.codd博士首先提出的,在之後的幾十年中,關係模型的概念得到了充分的發展並逐漸成為主流資料庫結構的主流模型。簡單來說,關係模型指的就是二維 模型,而乙個關係型資料庫就是由二維表及其之間的聯絡所組成的乙個...

從關係型資料庫到非關係型資料庫

自1970年,埃德加 科德提出關係模型之後,關聯式資料庫便開始出現,經過了40 多年的演化,如今的關係型資料庫具備了強大的儲存 維護 查詢資料的能力。但在關聯式資料庫日益強大的時候,人們發現,在這個資訊 的 大資料 時代,關係型資料庫遇到了效能方面的瓶頸,面對乙個表中上億條的資料,sql語句在大資料...

從關係型資料庫到非關係型資料庫

關係型資料庫,是指採用了關係模型來組織資料的資料庫。關係模型是在1970年由ibm的研究員e.f.codd博士首先提出的,在之後的幾十年中,關係模型的概念得到了充分的發展並逐漸成為主流資料庫結構的主流模型。簡單來說,關係模型指的就是二維 模型,而乙個關係型資料庫就是由二維表及其之間的聯絡所組成的乙個...