hdfs常用檔案命令

2021-07-04 17:54:48 字數 2251 閱讀 9080

為了每次執行hadoop的時候,不必須要前者加上hadoop的安裝的絕對路徑,要做的事情就是將其安裝路徑加入到path中,這樣就可以直接執行hadoop命令。

如下:vim /etc/profile中加入一句

export hadoop_install=/home/hadoopcluster/hadoop2.5.2

注意這裡要寫hadoop_install,因為如果寫hadoop_home會在執行命令的時候提醒該已經deprecated

然後將其bin加入到path中

export path=$hadoop_install/bin:$path

在使用hadoop命令的時候,必須要保證hadoop服務啟動了。

基本檔案命令:格式為:hadoop fs -cmd

hdfs有乙個預設的工作目錄 /user/$user,$user就是當前登入的使用者名稱,只有將檔案放入hdfs上後,才可以執行hadoop程式來處理它。

基本的引數如下,省略了前面的hadoop fs

注意這裡的path不用加上/user/$user,缺省會自動的建立父目錄

在利用hadoop命令的時,預設的工作路徑就是在/user/$user

1. -ls  path

列出path目錄下的內容,包括檔名,許可權,所有者,大小和修改時間。

2. -lsr  path

與ls相似,但遞迴地顯示子目錄下的內容。

3. -du path

顯示path下所有檔案磁碟使用情況下,用位元組大小表示,檔名用完整的hdfs協議字首表示。

4. -dus path

與-du相似,但它還顯示全部檔案或目錄磁碟使用情況

5. -mv src dest

在hdfs中,將檔案或目錄從hdfs的源路徑移動到目標路徑。

6. -cp src dest

在hdfs中,將src檔案或目錄複製到dest。

7. –rm path

刪除乙個檔案或目錄

8. –rmr path

刪除乙個檔案或遞迴刪除目錄

注意:這裡的mv cp操作的源路徑和目的路徑都是在hdfs中的路徑檔案

9. –put localsrc dest

將本地檔案或目錄localsrc上傳到hdfs中的dest路徑。

10. –copyfromlocal localsrc dest

與-put命令相同

11. –movefromlocal localsrc dest

將檔案或目錄從localsrc上傳到hdfs中的dest目錄,再刪除本地檔案或目錄localsrc。

12 –get [-crc] src localdest

將檔案或目錄從hdfs中的src拷貝到本地檔案系統localdest。

13 –getmerge src localdest [addnl]

將在hdfs中滿足路徑src的檔案合併到本地檔案系統的乙個檔案localdest中。

14 –cat filename

顯示檔案內容到標準輸出上。

15. -copytolocal [-crc] src localdest

與-get命令相同。

16 -movetolocal [-crc] src localdest

與-get命令相似,但拷貝結束後,刪除hdfs上原檔案。

17 -mkdir path

在hdfs中建立乙個名為path的目錄,如果它的上級目錄不存在,也會被建立,如同linux中的mkidr –p。

18 -setrep [-r] [-w] rep path

設定目標檔案的複製數。

19 -touchz path

建立乙個檔案。時間戳為當前時間,如果檔案本就存在就失敗,除非原檔案長充為0。

20 -test –[ezd] path

如果路徑(path)存在,返回1,長度為0(zero),或是乙個目錄(directory)。

21 –stat [format] path

顯示檔案所佔塊數(%b),檔名(%n),塊大小(%n),複製數(%r),修改時間(%y%y)。

22 –tail [-f] file

顯示檔案最後的1kb內容到標準輸出。

23 –chmod [-r] [owner][:[group]] path…

遞迴修改時帶上-r引數,mode是乙個3位的8進製數,或是[augo]+/-。

24 –chgrp [-r] group

設定檔案或目錄的所有組,遞迴修改目錄時用-r引數。

25 –help cmd

HDFS常用的檔案操作命令

檔案操作 ls 命令 檢視hdfs根目錄 hdfs dfs ls 檢視hdfs其它目錄 user zhang hdfs dfs ls user zhangdu 命令 hdfs dfs du user zhang 將位元組自動轉化成單位 hdfs dfs du h user zhangdf 命令 檢視...

HDFS檔案命令

hadoop fs genericopitions ls 顯示目標路徑當前目錄下的所有檔案 lsr 遞迴顯示目標路徑下的所有目錄及檔案 深度優先 du 以位元組為單位顯示目錄中所有檔案的大小,或該檔案的大小 如果 path 為檔案 dus 以位元組為單位顯示目標檔案大小 用於檢視資料夾大小 coun...

hdfs複製資料夾 HDFS常用命令

一.hdfs命令列 hadoop help命令的使用 1.hadoop help查詢所有hadoop shell支援的命令 這是hadoop下的乙個分布式複製程式,可以在不t同的hdfs集群間複製資料,也可以在本地檔案間複製資料。將 test test.txt檔案複製到 test cp下面 hado...