hadoop fs shell常用命令行表

2021-07-29 19:27:27 字數 3731 閱讀 3902

呼叫檔案系統(fs)shell命令應使用 bin/hadoop fs 的形式。 所有的的fs shell命令使用uri路徑作為引數。uri格式是scheme://authority/path。對hdfs檔案系統,scheme是hdfs,對本地檔案系統,scheme是file。其中scheme和authority引數都是可選的,如果未加指定,就會使用配置中指定的預設scheme。乙個hdfs檔案或目錄比如/parent/child可以表示成hdfs://namenode:namenodeport/parent/child,或者更簡單的/parent/child(假設你配置檔案中的預設值是namenode:namenodeport)。大多數fs shell命令的行為和對應的unix shell命令類似,不同之處會在下面介紹各命令使用詳情時指出。出錯資訊會輸出到stderr,其他資訊輸出到stdout。

使用方法:hadoop fs -cat uri [uri …]

將路徑指定檔案的內容輸出到stdout。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -chgrp [-r] group uri [uri …] change group association of files. with -r, make the change recursively through the directory structure. the user must be the owner of files, or else a super-user. additional information is in the permissions user guide. -->

改變檔案所屬的組。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -chmod [-r] uri [uri …]

改變檔案的許可權。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是檔案的所有者或者超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -chown [-r] [owner][:[group]] uri [uri ]

改變檔案的擁有者。使用-r將使改變在目錄結構下遞迴進行。命令的使用者必須是超級使用者。更多的資訊請參見hdfs許可權使用者指南。

使用方法:hadoop fs -copyfromlocal uri

除了限定源路徑是乙個本地檔案外,和put命令相似。

使用方法:hadoop fs -copytolocal [-ignorecrc] [-crc] uri

除了限定目標路徑是乙個本地檔案外,和get命令類似。

使用方法:hadoop fs -cp uri [uri …]

將檔案從源路徑複製到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。 

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -du uri [uri …]

顯示目錄中所有檔案的大小,或者當只指定乙個檔案時,顯示此檔案的大小。

示例:hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -dus

顯示檔案的大小。

使用方法:hadoop fs -expunge

清空**站。請參考hdfs設計文件以獲取更多關於**站特性的資訊。

使用方法:hadoop fs -get [-ignorecrc] [-crc]

複製檔案到本地檔案系統。可用-ignorecrc選項複製crc校驗失敗的檔案。使用-crc選項複製檔案以及crc資訊。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -getmerge [addnl]

接受乙個源目錄和乙個目標檔案作為輸入,並且將源目錄中所有的檔案連線成本地目標檔案。addnl是可選的,用於指定在每個檔案結尾新增乙個換行符。

使用方法:hadoop fs -ls

如果是檔案,則按照如下格式返回檔案資訊:

檔名 《副本數》 檔案大小 修改日期 修改時間 許可權 使用者id 組id

如果是目錄,則返回它直接子檔案的乙個列表,就像在unix中一樣。目錄返回列表的資訊如下:

目錄名 修改日期 修改時間 許可權 使用者id 組id

示例:hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -lsr

ls命令的遞迴版本。類似於unix中的ls -r。

使用方法:hadoop fs -mkdir

接受路徑指定的uri作為引數,建立這些目錄。其行為類似於unix的mkdir -p,它會建立路徑中的各級父目錄。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:dfs -movefromlocal

輸出乙個」not implemented「資訊。

使用方法:hadoop fs -mv uri [uri …]

將檔案從源路徑移動到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。不允許在不同的檔案系統間移動檔案。 

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -put ...

從本地檔案系統中複製單個或多個源路徑到目標檔案系統。也支援從標準輸入中讀取輸入寫入目標檔案系統。

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -rm uri [uri …]

返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -rmr uri [uri …]

delete的遞迴版本。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -setrep [-r]

改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -stat uri [uri …]

返回指定路徑的統計資訊。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -tail [-f] uri

將檔案尾部1k位元組的內容輸出到stdout。支援-f選項,行為和unix中一致。

示例:返回值:

成功返回0,失敗返回-1。

使用方法:hadoop fs -test -[ezd] uri

選項:-e 檢查檔案是否存在。如果存在則返回0。

-z 檢查檔案是否是0位元組。如果是則返回0。 

-d 如果路徑是個目錄,則返回1,否則返回0。

示例:使用方法:hadoop fs -text

將原始檔輸出為文字格式。允許的格式是zip和textrecordinputstream。

使用方法:hadoop fs -touchz uri [uri …]

建立乙個0位元組的空檔案。

示例:返回值:

成功返回0,失敗返回-1。

雲計算(五) Hadoop FS Shell命令

呼叫檔案系統 fs shell命令應使用bin hadoop fs的形式。所有的的fs shell命令使用uri路徑作為引數。uri格式是scheme authority path 對 hdfs檔案系統,scheme是hdfs 對本地檔案系統,scheme是file 其中scheme和 author...

easyui常用控制項常用方法

easyui常用控制項使用方法 1.文字框 取值 id textbox getvalue 或 id val 2.鏈結按鈕 register 3.日曆控制項 顯示年月日 取值 kssj datebox getvalue 顯示年月日時分秒 取值 regtime datetimebox getvalue ...

常用指令碼 常用指令碼整理

1 addloadevent 網頁載入完成後把多個自己編寫的函式繫結到window.onload事件中 把現有的window.onload事件處理函式的值存入便令oldonload。如果在這個處理函式上還沒有繫結任何函式,就像平時那樣把新函式新增給它。如果在這個處理函式上已經繫結了一些函式,就把新函...