sqoop資料遷移

2021-10-02 14:25:45 字數 1543 閱讀 9505

sqoop list-databases -connect jdbc:mysql://hadoop1:3306 -username root -password root
sqoop list-tables -connect jdbc:mysql://hadoop1:3306/test -username root -password root
sqoop eval -connect jdbc:mysql://hadoop1:3306/test -username root -password root -query "select * from ysyy_bill"
1.無腦匯入 常用 整表導

sqoop import -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t1 -m 1 -target-dir /sqoop/t1
2.更常用 增量匯入

首先mysql庫中手動建立表結構

sqoop export -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t2 -m 1 -export-dir /sqoop/t1
複製mysql表結構到hive表結構

sqoop create-hive-table -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t1 -hive-table sqoop.t1 -fields-terminated-by "\0001" -lines-terminated-by "\n"

sqoop import -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t1 -hive-table sqoop.t1 -m 1 -fields-terminated-by "\0001" -hive-import

首先mysql庫中手動建立表結構

sqoop export -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t3 -export-dir /user/hive/warehouse/sqoop.db/t1 -input-fields-terminated-by '\0001'
手動建立hbase表 create 『t1』,『cf』

sqoop import -connect jdbc:mysql://hadoop1:3306/test -username root -password root -table t1 -hbase-table t1 -column-family 'cf' -hbase-row-key id -m 1

sqoop資料遷移工具

注 為了表達清晰做了換行,執行時請放在一行中,使用空格隔開,或者加 進行行連線 在profiles中新增sqoop到環境變數 將資料庫連線驅動拷貝到 sqoop home lib裡 sqoop import connect jdbc mysql username root password 123 ...

sqoop工具資料遷移

sqoop 發音 skup 是一款開源的工具,主要用於在hadoop hive 與傳統的資料庫 mysql postgresql 間進行資料的傳遞,可以將乙個關係型資料庫 例如 mysql oracle postgres等 中的資料導進到hadoop的hdfs中,也可以將hdfs的資料導進到關係型資...

sqoop實現資料遷移

sqoop命令中的 後不能接任何空格,否則報錯 1 sqoop help 檢視命令 2 顯示所有庫名 方式一 sqoop list databases connect jdbc mysql 3306 username root password 123456 方式二 sqoop list datab...