HDFS基本命令

2021-08-27 03:40:47 字數 1940 閱讀 5073

hdfs常用命令:

注:以下執行命令均在spark安裝目錄的bin目錄下。

path 為路徑 src為檔案路徑 dist 為資料夾

1、-help[cmd] 顯示命令的幫助資訊

./hdfs dfs -help ls

1 2、-ls(r) 顯示當前目錄下的所有檔案 -r層層循出資料夾

./hdfs dfs -ls /log/map

./hdfs dfs -lsr /log/ (遞迴的)

1 2

3、-du(s) 顯示目錄中所有檔案大小,或者當只指定乙個檔案時,顯示此檔案的大小

./hdfs dfs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1

1 4、-count[-q] 顯示當前目錄下的所有檔案大小

5、-mv 移動多個檔案目錄到目標目錄

./hdfs dfs -mv /user/hadoop/file1 /user/hadoop/file2

1 6、-cp 複製多個檔案到目標目錄

./hdfs dfs -cp /user/hadoop/file1 /user/hadoop/file2 (將檔案從源路徑複製到目標路徑。

這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。)

1 2

7、-rm(r) 刪除檔案(夾)

./hdfs dfs -rmr /log/map1 (遞迴刪除)

1 8、-put 本地檔案複製到hdfs

./hdfs dfs -put test.txt /log/map/

1 9、-copyfromlocal 本地檔案複製到hdfs

./hdfs dfs -copyfromlocal /usr/data/text.txt /log/map1/ (將本地的text.txt 複製到hdfs的/log/map1/下)

1 10、-movefromlocal 本地檔案移動到hdfs

./hdfs dfs -movefromlocal /usr/data/text.txt /log/map1/ (將本地的text.txt移動到hdfs的/log/map1/下)

1 11、-get[-ignorecrc] 複製檔案到本地,可以忽略crc校驗

./hdfs dfs -get /log/map1/* . (複製到本地當前目錄下)

/hdfs dfs -get /log/map1/* /usr/data (將hdfs下的/log/map1/下的所有檔案全部複製到本地的/usr/data/下 )

1 2

12、-getmerge[addnl] 將源目錄中的所有檔案排序合併到乙個檔案中,接受乙個源目錄和乙個目標檔案作為輸入,並且將源目錄中所有的檔案連線成本地目標檔案。addnl是可選的,用於指定在每個檔案結尾新增乙個換行符。

./hdfs dfs -cat /log/map1/part-00000 | head (讀取hdfs上的/log/map1下的part-00000檔案 head引數,代表前十行。)

/hdfs dfs -tail /log/map1/part-00000 (檢視檔案的最後一千行)

1 2

3 14、-text 在終端顯示檔案內容,將原始檔輸出為文字格式。允許的格式是zip和textrecordinputstream

15、-copytolocal[-ignorecrc] 複製檔案到本地

16、-movetolocal 移動檔案到本地

17、-mkdir 建立資料夾 後跟-p 可以建立不存在的父路徑

./hdfs dfs -mkdir -p /dir1/dir11/dir111

1 18、-touchz 建立乙個空檔案

19、-grep 從hdfs上過濾包含某個字元的行內容

./hdfs dfs -cat /log/testlog/* | grep 過濾字段

HDFS基本命令

hadoop的基本命令與linux命令很相似,這裡列舉一下基本的hdfs命令。命令基本格式 hadoop fs cmd args 但建議使用以下格式 hdfs dfs cmd args 1 ls 列出hdfs檔案系統根目錄下的目錄和檔案 hadoop fs ls 列出hdfs檔案系統所有的目錄和檔案...

HDFS基本命令fs的使用操作

2.hadoop fs mkdir 在hdfs檔案系統下的根路徑下建立乙個檔案 這個根目錄是獨立於虛擬機器的 3.hadoop fs ls 檢視檔案系統當前目錄下的檔案 4.hadoop fs rmdir 刪除資料夾 5.hadoop fs ls r 或者 hadoop fs lsr 遞迴顯示 目錄...

mysql基本命令總結 mysql基本命令總結

1.在ubuntu上安裝mysql sudo apt get install mysql server sudo apt get install mysql client 2.安裝結束後,用命令驗證是否安裝並啟動成功 sudo netstat tap grep mysql 通過上述命令檢查之後,如果...