Hadoop Shell命令字典(可收藏)

2021-09-08 10:27:16 字數 4458 閱讀 3344

可以帶著下面問題來閱讀:

1.chmod與chown的區別是什麼?

2.cat將路徑指定檔案的內容輸出到**?

3.cp能否是不同之間複製?

4.hdfs如何檢視檔案大小?

5.hdfs如何合併檔案?

6.如何顯示當前路徑下的所有資料夾和檔案

7.rm刪除檔案失敗的原因什麼?

8.如何檢視檔案的建立時間

9.檢視檔案命令的內容有哪些?能否說出三種?

10.如何判斷檔案是否存在?

11.如何建立0位元組檔案

對於命令,我們一次性記住,可能以後又忘記了,這裡大家用到的時候,可以檢視一下。

呼叫檔案系統(fs)shell命令應使用 bin/hadoop fs 的形式。 所有的的fs 

shell命令使用uri路徑作為引數。uri格式是scheme://authority/path。對hdfs檔案系統,scheme是hdfs,對本地檔案系統,scheme是file。其中scheme和authority引數都是可選的,如果未加指定,就會使用配置中指定的預設scheme。乙個hdfs檔案或目錄比如/parent/child可以表示成hdfs://namenode:namenodeport/parent/child,或者更簡單的/parent/child(假設你配置檔案中的預設值是namenode:namenodeport)。大多數fs shell命令的行為和對應的unix shell命令類似,不同之處會在下面介紹各命令使用詳情時指出。出錯資訊會輸出到stderr,其他資訊輸出到stdout。

(stderr與stdout這裡可以理解為檔案)

cat使用方法:hadoop fs -

cat uri [uri …]

將路徑指定檔案的內容輸出到stdout。

示例:返回值:

成功返回0,失敗返回-1。

chgrp

使用方法:hadoop fs -chgrp [-r] group uri [uri …] change group association of files. with -r, make the change recursively through the directory structure. the user must be the owner of files, or else a super-user. additional information is in the 

permissions user guide. -->

改變檔案所屬的組。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見

hdfs許可權使用者指南。

chmod

使用方法:hadoop fs -chmod [-r] uri [uri …]

改變檔案的許可權。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見

hdfs許可權使用者指南。

chown

使用方法:hadoop fs -chown [-r] [owner][:[group]] uri [uri ]

改變檔案的擁有者。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是超級使用者。更多的資訊請參見

hdfs許可權使用者指南。

copyfromlocal

使用方法:hadoop fs -copyfromlocal uri

除了限定源路徑是乙個本地檔案外,和put命令相似。

copytolocal

使用方法:hadoop fs -copytolocal [-ignorecrc] [-crc] uri

除了限定目標路徑是乙個本地檔案外,和get命令類似。 cp

使用方法:hadoop fs -cp uri [uri …]

將檔案從源路徑複製到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。 

示例:返回值:

成功返回0,失敗返回-1。 du

使用方法:hadoop fs -du uri [uri …]

顯示目錄中所有檔案的大小,或者當只指定乙個檔案時,顯示此檔案的大小。

示例:hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1 

返回值:

成功返回0,失敗返回-1。 

dus使用方法:hadoop fs -dus

顯示檔案的大小。

expunge

使用方法:hadoop fs -expunge

清空**站。請參考

hdfs設計文件以獲取更多關於**站特性的資訊。

get使用方法:hadoop fs -get [-ignorecrc] [-crc]

複製檔案到本地檔案系統。可用-ignorecrc選項複製crc校驗失敗的檔案。使用-crc選項複製檔案以及crc資訊。

示例:返回值:

成功返回0,失敗返回-1。

getmerge

使用方法:hadoop fs -getmerge [addnl]

接受乙個源目錄和乙個目標檔案作為輸入,並且將源目錄中所有的檔案連線成本地目標檔案。addnl是可選的,用於指定在每個檔案結尾新增乙個換行符。 ls

使用方法:hadoop fs -ls

如果是檔案,則按照如下格式返回檔案資訊:

檔名 《副本數》 檔案大小 修改日期 修改時間 許可權 使用者id 組id 

如果是目錄,則返回它直接子檔案的乙個列表,就像在unix中一樣。目錄返回列表的資訊如下:

目錄名 修改日期 修改時間 許可權 使用者id 組id 

示例:hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile 

返回值:

成功返回0,失敗返回-1。 

lsr使用方法:hadoop fs -lsr

ls命令的遞迴版本。類似於unix中的ls -r。

mkdir

使用方法:hadoop fs -mkdir

接受路徑指定的uri作為引數,建立這些目錄。其行為類似於unix的mkdir -p,它會建立路徑中的各級父目錄。

示例:返回值:

成功返回0,失敗返回-1。

movefromlocal

使用方法:dfs -movefromlocal

輸出乙個」not implemented「資訊。 mv

使用方法:hadoop fs -mv uri [uri …]

將檔案從源路徑移動到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。不允許在不同的檔案系統間移動檔案。 

示例:返回值:

成功返回0,失敗返回-1。

put使用方法:hadoop fs -put ...

從本地檔案系統中複製單個或多個源路徑到目標檔案系統。也支援從標準輸入中讀取輸入寫入目標檔案系統。

返回值:

成功返回0,失敗返回-1。 rm

使用方法:hadoop fs -rm uri [uri …]

刪除指定的檔案。只刪除非空目錄和檔案。請參考rmr命令了解遞迴刪除。

示例:返回值:

成功返回0,失敗返回-1。

rmr使用方法:hadoop fs -rmr uri [uri …]

delete的遞迴版本。

示例:返回值:

成功返回0,失敗返回-1。

setrep

使用方法:hadoop fs -setrep [-r]

改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。

示例:返回值:

成功返回0,失敗返回-1。

stat

使用方法:hadoop fs -stat uri [uri …]

返回指定路徑的統計資訊。

示例:返回值:

成功返回0,失敗返回-1。

tail

使用方法:hadoop fs -tail [-f] uri

將檔案尾部1k位元組的內容輸出到stdout。支援-f選項,行為和unix中一致。

示例:返回值:

成功返回0,失敗返回-1。

test

使用方法:hadoop fs -test -[ezd] uri

選項:-e 檢查檔案是否存在。如果存在則返回0。

-z 檢查檔案是否是0位元組。如果是則返回0。 

-d 如果路徑是個目錄,則返回1,否則返回0。

示例:

text

使用方法:hadoop fs -text

將原始檔輸出為文字格式。允許的格式是zip和textrecordinputstream。

touchz

使用方法:hadoop fs -touchz uri [uri …] 

建立乙個0位元組的空檔案。

示例:返回值:

成功返回0,失敗返回-1。

推薦文章

hadoop入門:hadoop使用shell命令總結

Hadoop Shell命令字典

1.chmod與chown的區別是什麼?2.cat將路徑指定檔案的內容輸出到 3.cp能否是不同之間複製?4.hdfs如何檢視檔案大小?5.hdfs如何合併檔案?6.如何顯示當前路徑下的所有資料夾和檔案 7.rm刪除檔案失敗的原因什麼?8.如何檢視檔案的建立時間 9.檢視檔案命令的內容有哪些?能否說...

Hadoop Shell命令字典(可收藏)

可以帶著下面問題來閱讀 1.chmod與chown的區別是什麼?2.cat將路徑指定檔案的內容輸出到 3.cp能否是不同之間複製?4.hdfs如何檢視檔案大小?5.hdfs如何合併檔案?6.如何顯示當前路徑下的所有資料夾和檔案 7.rm刪除檔案失敗的原因什麼?8.如何檢視檔案的建立時間 9.檢視檔案...

DOS命令字典

dos命令字典 net use ip ipc user 建立ipc空鏈結 net use ip ipc 密碼 user 使用者名稱 建立ipc非空鏈結 net use h ip c 密碼 user 使用者名稱 直接登陸後對映對方c 到本地為h net use h ip c 登陸後對映對方c 到本地為...