筆記 hadoop HDFS的shell常用命令

2021-09-25 06:18:43 字數 2574 閱讀 3772

基本語法

bin/hadoop fs具體命令 orbin/hdfs dfs具體命令

dfs是fs的實現類。

常用命令

啟動hadoop集群

start-dfs.sh

start-yarn.sh

-mkdir在hdfs上建立目錄-p建立多級目錄

hadoop fs -mkdir -p /user/liun/test
-ls顯示目錄資訊

hadoop fs -ls /user/liun/
-movefromlocal從本地剪下貼上到hdfs

touch test1.txt

hadoop fs -movefromlocal ./test1.txt /user/liun/test

-copyfromlocal從本地檔案系統中拷貝檔案到hdfs路徑去

touch test2.txt

hadoop fs -copyfromlocal ./test2.txt /user/liun/test

-put等同於copyfromlocal

hadoop fs -copyfromlocal ./test2.txt /user/liun/
-copytolocal從hdfs拷貝到本地

hadoop fs -copytolocal /user/liun/test/test1.txt ./
-get

hadoop fs -get /user/liun/test/test2.txt ./
-getmerge

hadoop fs -getmerge /user/liun/test/* ./tests.txt
-cp從hdfs的乙個路徑拷貝到hdfs的另乙個路徑

hadoop fs -cp /user/liun/test/test1.txt /user/liun/
-mv在hdfs目錄中移動檔案

hadoop fs -mv /user/liun/test/test2.txt /user/liun/
追加乙個檔案到已經存在的檔案末尾

touch test3.txt
-cat顯示檔案內容

hadoop -cat /user/liun/test/test1.txt
-tail顯示乙個檔案的末尾

hadoop -tail /user/liun/test/test1.txt
-chgrp-chmod-chownlinux檔案系統中的用法一樣,修改檔案所屬許可權

hadoop fs -chmod 666 /user/liun/test1.txt
hadoop fs -chown liun:liun /user/liun/test1.txt
-rm刪除檔案或資料夾

hadoop fs -rm /user/liun/test/*
-rmdir刪除空目錄

hadoop fs -rmdir /user/liun/test
-du統計資料夾的大小資訊-h顯示大小單位-s顯示整體大小

hadoop fs -du -s -h /user/
-setrep設定hdfs中檔案的副本數量

hadoop fs -setrep 2 /user/liun/test1.txt

Hadoop HDFS 的超級使用者

hadoop hdfs 的超級使用者 超級使用者 超級使用者即執行name node程序的使用者。寬泛的講,如果你啟動了name node,你就是超級使用者。超級使用者幹任何事情,因為超級使用者能夠通過所有的許可權檢查。沒有永久記號保留誰過去是超級使用者 當name node開始執行時,程序自動判斷...

Hadoop HDFS的資料流程

hdfs資料寫入流程 客戶端通過distributed filesystem模組向namenode請求上傳檔案,namenode檢查目標檔案是否已存在,父目錄是否存在。namenode返回是否可以上傳。客戶端請求第乙個 block上傳到哪幾個datanode伺服器上。namenode返回3個data...

hadoop hdfs 的常用命令

1.hadoop fs ls path 列出path目錄下的內容,包括檔名,許可權,所有者,大小和修改時間。2.hadoop fs lsr path 與ls相似,但遞迴地顯示子目錄下的內容。3.hadoop fs du path 顯示path下所有檔案磁碟使用情況下,用位元組大小表示,檔名用完整的h...