Hadoop 下常用的命令

2022-03-17 22:50:14 字數 3804 閱讀 3955

今天在bluemix 上簡易的搭建了乙個hadoop cluster  , 憨的是 hadoop 命令忘的查不到了,今天補充溫故知新

呼叫檔案系統(fs)shell命令應使用 bin/hadoop fs 的形式。 所有的的fs shell命令使用uri路徑作為引數。uri格式是scheme://authority/path。對hdfs檔案系統,scheme是hdfs,對本地檔案系統,scheme是file。其中scheme和authority引數都是可選的,如果未加指定,就會使用配置中指定的預設scheme。乙個hdfs檔案或目錄比如/parent/child可以表示成hdfs://namenode:namenodeport/parent/child,或者更簡單的/parent/child(假設你配置檔案中的預設值是namenode:namenodeport)。大多數fs shell命令的行為和對應的unix shell命令類似,不同之處會在下面介紹各命令使用詳情時指出。出錯資訊會輸出到stderr,其他資訊輸出到stdout。

使用方法:hadoop fs -cat uri [uri …]

將路徑指定檔案的內容輸出到stdout。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -chgrp [-r] group uri [uri …] change group association of files. with-r, make the change recursively through the directory structure. the user must be the owner of files, or else a super-user. additional information is in thepermissions user guide.-->

改變檔案所屬的組。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -chmod [-r] uri [uri …]

改變檔案的許可權。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -chown [-r] [owner][:[group]] uri [uri ]

改變檔案的擁有者。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -copyfromlocal uri

除了限定源路徑是乙個本地檔案外,和put命令相似。

使用方法:hadoop fs -copytolocal [-ignorecrc] [-crc] uri

除了限定目標路徑是乙個本地檔案外,和get命令類似。

使用方法:hadoop fs -cp uri [uri …]

將檔案從源路徑複製到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -du uri [uri …]

顯示目錄中所有檔案的大小,或者當只指定乙個檔案時,顯示此檔案的大小。

示例:hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -dus

顯示檔案的大小。

使用方法:hadoop fs -expunge

清空**站。請參考hdfs設計文件以獲取更多關於**站特性的資訊。

使用方法:hadoop fs -get [-ignorecrc] [-crc]

複製檔案到本地檔案系統。可用-ignorecrc選項複製crc校驗失敗的檔案。使用-crc選項複製檔案以及crc資訊。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -getmerge [addnl]

接受乙個源目錄和乙個目標檔案作為輸入,並且將源目錄中所有的檔案連線成本地目標檔案。addnl是可選的,用於指定在每個檔案結尾新增乙個換行符。

使用方法:hadoop fs -ls

如果是檔案,則按照如下格式返回檔案資訊:

檔名 《副本數》 檔案大小 修改日期 修改時間 許可權 使用者id 組id

如果是目錄,則返回它直接子檔案的乙個列表,就像在unix中一樣。目錄返回列表的資訊如下:

目錄名 修改日期 修改時間 許可權 使用者id 組id

示例:hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -lsr

ls命令的遞迴版本。類似於unix中的ls -r。

使用方法:hadoop fs -mkdir

接受路徑指定的uri作為引數,建立這些目錄。其行為類似於unix的mkdir -p,它會建立路徑中的各級父目錄。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:dfs -movefromlocal

輸出乙個」not implemented「資訊。

使用方法:hadoop fs -mv uri [uri …]

將檔案從源路徑移動到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。不允許在不同的檔案系統間移動檔案。

示例:

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -put ...

從本地檔案系統中複製單個或多個源路徑到目標檔案系統。也支援從標準輸入中讀取輸入寫入目標檔案系統。

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -rm uri [uri …]

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -rmr uri [uri …]

delete的遞迴版本。

示例:

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -setrep [-r]

改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -stat uri [uri …]

返回指定路徑的統計資訊。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -tail [-f] uri

將檔案尾部1k位元組的內容輸出到stdout。支援-f選項,行為和unix中一致。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -test -[ezd] uri

選項:-e 檢查檔案是否存在。如果存在則返回0。

-z 檢查檔案是否是0位元組。如果是則返回0。

-d 如果路徑是個目錄,則返回1,否則返回0。

示例:使用方法:hadoop fs -text

將原始檔輸出為文字格式。允許的格式是zip和textrecordinputstream。

使用方法:hadoop fs -touchz uri [uri …]

建立乙個0位元組的空檔案。

示例:返回值:

成功返回0,失敗返回-1。

常用hadoop命令

使用hadoopdfs shell命令 使用方法 hadoop fs copyfromlocal uri 除了限定源路徑是乙個本地檔案外,和put命令相似。使用方法 hadoop fs copytolocal ignorecrc crc uri 除了限定目標路徑是乙個本地檔案外,和get命令類似。其...

hadoop常用操作命令

1 檢視指定目錄下內容 hadoop dfs ls 檔案目錄 eg hadoop dfs ls user wangkai.pt 2 開啟某個已存在檔案 hadoop dfs cat file path eg hadoop dfs cat user wangkai.pt data.txt 3 將本地檔...

hadoop常用操作命令

1.列出根目錄下所有的目錄或檔案 hadoop dfs ls 2.列出 user目錄下的所有目錄和檔案 hadoop dfs ls user 3.列出 user目錄及其子目錄下的所有檔案 謹慎使用 hadoop dfs ls r user 4.建立 soft目錄 hadoop dfs mkdir s...