Hadoop分布式檔案系統 HDFS 的基本命令

2021-08-17 11:57:22 字數 1324 閱讀 1498

./hdfs dfs -help

ls

./hdfs dfs -ls /log/map

./hdfs dfs -lsr /log

/ (遞迴的)

./hdfs dfs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user

/hadoop/dir1

./hdfs dfs -mv /user/hadoop/file1 /user/hadoop/file2
./hdfs dfs -cp /user/hadoop/file1 /user/hadoop/file2 (將檔案從源路徑複製到目標路徑。

這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。)

./hdfs dfs -rmr /log/map1  (遞迴刪除)
./hdfs dfs -put test.txt /log/map

/

./hdfs dfs -copyfromlocal /usr/data/text.txt /log/map1/   (將本地的text.txt 複製到hdfs的/log/map1/下)
./hdfs dfs -movefromlocal /usr/data/text.txt /log/map1/   (將本地的text.txt移動到hdfs的/log/map1/下)
./hdfs dfs -get /log/map1/*  . (複製到本地當前目錄下)

/hdfs dfs -get /log/map1/* /usr/data (將hdfs下的/log/map1/下的所有檔案全部複製到本地的/usr/data/下 )

./hdfs dfs -cat /log/map1/part-

00000

| head (讀取hdfs上的/log/map1下的part-

00000檔案 head引數,代表前十行。)

/hdfs dfs -tail /log/map1/part-

00000 (檢視檔案的最後一千行)

./hdfs dfs -mkdir

-p /dir1/dir11/dir111

./hdfs dfs -cat /log/testlog/* | grep 過濾字段

Hadoop分布式檔案系統HDFS

2018年4月21號 主要概述 hdfs是以流式資料訪問模式來儲存超大檔案。執行於商用硬體集群上的 詳細解析 1 超大檔案 就是單個檔案達到幾百mb至幾百tb甚至pb的檔案。2 3 商用硬體集群上 商用硬體就是不貴也不是高可靠的硬體裝置。就是容錯性好,個別節點掛了,對整個系統不產生任何影響,主要是靠...

分布式檔案系統

分布式檔案系統 概述 系統管理員可以利用分布式檔案系統 dfs 使使用者訪問和管理那些物理上跨網路分布的檔案更加容易。通過 dfs,可以使分布在多個伺服器上的檔案在使用者面前顯示時,就如同位於網路上的乙個位置。使用者在訪問檔案時不再需要知道和指定它們的實際物理位置。例如,如果您的銷售資料分散在某個域...

分布式檔案系統

常見的分布式檔案系統有,gfs hdfs lustre ceph gridfs mogilefs tfs fastdfs等。各自適用於不同的領域。它們都不是系統級的分布式檔案系統,而是應用級的分布式檔案儲存服務。google學術 這是眾多分布式檔案系統的起源 google file system 大...