Sqoop1 X 和 Sqoop2架構區別

2021-06-29 10:37:54 字數 791 閱讀 6225

sqoop1

vssqoop2

sqoop是什麼?

1:兩個不同版本,完全不相容

2:版本號劃分方式

apache:1.4.x~ ,1.99.x~

cdh:sqoop-1.4.3-cdh4,sqoop2-1.99.2-cdh4.5.0/

3:sqoop2比sqoop1的改進

引入sqoop server,集中化管理connector等

多種訪問方式:cli,web ui,rest api

引入基於角色的安全機制

4:sqoop1的架構:

5:sqoop2架構

6: sqoop2架構優點

1): 多種互動方式

命令列、web ui、rest api

2): connector集中化安裝

所有connector安裝在sqoop server上

3):  許可權管理機制

可配置管理員、使用者等角色

4): connector規範化

不再包含資料傳輸,格式轉換、與hive、hbase互動等功能

僅負責資料讀寫

sqoop2從hdfs中匯入到mysql

資料準備 hive資料庫檔案 例路徑為 user hadoop hive test 在mysql建立與hive中資料庫結構一樣的資料庫。啟動sqoop2服務 sqoop2 server start 登入客戶端 sqoop2 shell 建立資料庫物件 建立hdfs的link物件 建立乙個job作業 ...

sqoop2用法介紹及問題解決方法

什麼是sqoop 我的專案中用到sqoop2 其中mysql資料到hdfs就是由sqoop完成,hdfs資料匯入到hive則是通過在hive中建表,通過load.overwrite.hive命令匯入建好的hive表。如何使用sqoop2 我是在兩台伺服器上執行sqoop,一台作為服務端,一台作為客戶...

Sqoop2中傳入配置檔案中url之 坑

特別注意 sqoop2裡面各個版本的區別還是很大的,這裡使用1.99.6版本。sqoopclient初始化 private sqooputil throws ioexception 配置檔案解析工具類,解析 myconf.properties檔案。public class propertiesuti...