hadoop的shell常用命令

2021-09-16 20:50:34 字數 2507 閱讀 3753

hadoop指令碼命令開始位置有兩種寫法:hadoop fs 和hdfs dfs,其中hdfs dfs為hadoop1中命令,在hadoop2和hadoop3中也可以用,hadoop fs為hadoop2和hadoop3中命令。

以下文章中的中括號()表示為可選項,可加可不帶,中括號中字母或單詞有特殊功能和含義。

1、-ls:     

(1)hadoop fs -ls 例子: hadoop fs -ls /  檢視根目錄檔案,顯示檔案大小單為為b

(2)hadoop fs -ls -h 例子: hadoop fs -ls -h /  檢視根目錄檔案,顯示檔案大小單會自動顯示,h為human簡寫,代表人性化。

(3)hadoop fs -ls -r 例子: hadoop fs -ls -r /   檢視根目錄檔案,包括所有檔案的子子孫孫檔案,r為recursion簡寫,代表遞迴。

2、-mkdir:

(1)hadoop fs -mkdir 例子:hadoop fs -mkdir /aa/bb 在指定路徑下建立資料夾,當父目錄不存在時,建立失敗。

(2)hadoop fs -mkdir -p 例子:hadoop fs -mkdir -p /aa/bb 在指定路徑下建立資料夾,當父目錄不存在時,會自動建立父目錄,p代表parent。

3、-put:

(1)  hadoop fs -put  例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統。

(2)  hadoop fs -put -f  例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統,如果目的地已經存在則覆蓋目的地檔案或資料夾。

(3)  hadoop fs -put -p  例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統,保留訪問和修改時間,所有權和許可權。

4、-get:

hadoop fs -get [-ignorecrc] [-crc] [-p] [-f] :從hadoop複製檔案或資料夾至本地。

例子:hadoop fs -get hdfs://node-1:9000/aa /root/dest

6、-cat:

hadoop fs -cat [ignorecrc] uri:檢視hadoop檔案中的內容,

例子:hadoop fs -cat hdfs://node-1:9000/aa/bb/1.txt

7、-tail:

hadoop fs -tail [-f] uri

(1)hadoop fs -tail  uri :將檔案最後一千字顯示到stout,例子:hadoop fs -tail hdfs://node-1:9000/aa/bb/1.txt。

(2)hadoop fs -tail -f uri :將檔案左後一千字顯示到stout,當檔案內容增加時,會動態顯示新增的內容,例子:hadoop fs -tail -f hdfs://node-1:9000/aa/bb/1.txt。

8、-chgrp:

hadoop fs -chgrp [r] group uri:更改檔案組的關聯。使用者必須是檔案的所有者,否則是超級使用者。-r將使改變在目錄結構下遞迴進行。

例子:hadoop fs -chgroup othergroup /hadoop/hadoopfile

9、-chmod:

改變檔案的許可權。使用-r將使改變在目錄結構下遞迴進行。

例子:hadoop fs -chmod 777 hdfs://node-1:9000/aa/bb/1.txt

10、-chown:

改變檔案的擁有者。使用-r將使改變在目錄結構下遞迴進行。

例子:hadoop fs -chown someuser:somegrp /hadoop/hadoopfile

11、-copyfromlocal:該命令可以被-put取代

從本地檔案系統中拷貝檔案到hdfs路徑去

例子:hadoop fs -copyfromlocal /root/1.txt /

12、-copytolocal:該命令可以被-get取代

從hdfs拷貝到本地

例子:hadoop fs -copytolocal /1.txt /root

13、-getmerge:

例子:hadoop fs -getmerge /aaa/log.* ./log.sum

14、-rm:

刪除指定檔案。只刪除非空資料夾和檔案。-r遞迴刪除,可以刪除非空的資料夾。

例子:hadoop fs -rm -r /aaa/bbb/

15、-df:

統計檔案系統的可用空間資訊

例子:hadoop fs -df -h /

16、-du:

顯示目錄中所有檔案大小,當只指定乙個檔案時,顯示此檔案的大小

例子:hadoop fs -du /user/

17、-setrep:

改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。

例子:hadoop fs -setrep -w 3 -r /aa/bb/

Hadoop 之shell常用命令

hdfs dfs ls 遞迴檢視目錄下的所有檔案包括子資料夾裡面的檔案 hdfs dfs ls r hdfs dfs mkdir test 級聯建立資料夾 hdfs dfs mkdir p test abc def hdfs dfs put a.txt hello 從本地剪下檔案到hdfs上 hdf...

Hadoop的shell常用操作

1.啟動 關閉hadoop集群 2.檢視hdfs上的檔案和目錄 hadoop fs ls r 3.在hdfs上建立資料夾 hadoop fs mkdir p test name4.上傳檔案 hadoop fs put source 本地檔案路徑 dest hdfs路徑 hadoop fs get s...

Hadoop二 Hadoop常用命令

以hadoop執行hadoop自帶的wordcount為例,hadoop指令碼位於 home hadoop hadoop 2.5.2 bin hadoop,需要說明的是,這些命令的使用必須在hadoop已經執行的情況下才能執行 列出hdfs檔案系統的第一級檔案和第一級目錄,如 hadoop hado...