sqoop基本操作

2021-09-24 19:49:06 字數 2303 閱讀 2324

sqoop list-databases \

--connect jdbc:mysql: \

--username root \

--password 123456

sqoop list-tables \

--connect jdbc:mysql:/test \

--username root \

--password 123456

sqoop import  \

--connect jdbc:mysql:/test \

--username root \

--password 123456 \

--table userinfo \

--hive-import \

--hive-overwrite \

--fields-terminated-by "\t" \

--lines-terminated-by "\n" \

--create-hive-table \

--delete-target-dir \

--hive-database hivetest \

--hive-table hive_userinfo

hive 引數

其他引數

不能與 --table 一起使用

需要指定 --target-dir 路徑(hdfs儲存路徑)

sqoop import  \

--connect jdbc:mysql:/test \

--username root \

--password 123456 \

--table userinfo \

--hive-import \

--hive-database hivetest \

--hive-table hive_userinfo \

--m 1 \

--check-column id \

--last-value 1208

引數

--check-column updatetime \

--last-value "2019-06-28"

注意:增量匯入不能與 --delete-target-dir 一起使用,必須指定增量的模式 

sqoop export \

--connect jdbc:mysql:/test \

--username root \

--password 123456 \

-m 2 \

--mapreduce-job-name hdfs2mysql \

--table a \

--export-dir /user/hadoop/a \ #從hdfs匯出資料

--input-fields-terminated-by '\t' \

--input-null-string '' \

--input-null-non-string '0'

sqoop export \

--connect jdbc:mysql:/test \

--username root \

--password 123456 \

-m 2 \

--mapreduce-job-name hive2mysql \

--table a \

--input-fields-terminated-by '\t'

#增量匯出

sqoop export \

--connect jdbc:mysql: \

--username root \

--password 123456 \

--mapreduce-job-name hive2mysql \

--table userinfo_copy \

--fields-terminated-by '|||' \

--update-key id \

--update-mode allowinsert \

--export-dir /user/hive/warehouse/userinfo

sqoop eval  \

--connect jdbc:mysql: \

--username root \

--password 123456 \

--query "delete from userinfo"

sqoop基本操作

匯入到hdfs 代表在shell視窗中換行 bin sqoop import 連線的url connect jdbc mysql hadoop102 3306 mydb 使用者名稱 username root 密碼 password 123456 要導哪個表的資料 table staff 將資料匯入...

Sqoop的基本操作

sqoop list databases connect jdbc mysql mini05 3306 username root password rootsqoop list tables connect jdbc mysql mini05 3306 up1 username root pass...

Sqoop基本使用

在 sqoop 中,匯入 概念指 從非大資料集群 rdbms 向大資料集群 hdfs,hive,hbase 中傳輸資料,叫做 匯入,即使用 import 關鍵字。1 確定 mysql 服務開啟正常 2 在 mysql 中新建一張表並插入一些資料 mysql uroot p123456 mysql c...