hdfs命令學習

2021-08-17 12:37:57 字數 1227 閱讀 7810

hdfs dfs -put

a.txt b.txt

a.txt在本地,b.txt是要傳到的hdfs路徑。

hdfs dfs -get wordcountout/part-0000* /tmp/output
hdfs提供了很多shell命令來實現訪問檔案系統的功能,hadoop自帶的shell指令碼叫hadoop。如果需要獲取檔案系統的所有命令,可以通過hadoop fs。

hadoop fs
使用help選項可以獲得對某個具體命令的詳細說明

hadoop fs -help

ls

hadoop fs -mkdir

-p /data/weblogs

hadoop fs -copyfromlocal weblog_entries.txt /data/weblogs
hadoop fs -ls /data/weblogs/weblog_entries.txt
通過distcp實現hadoop集群間複製大量資料。

distcp是通過啟動mapreduce實現資料複製的。

使用distcp,需要關閉源集群map任務的推測機制,在mapred-site.xml中將mapred.map.tasks.speculative.execution的值設為false,避免在map任務失敗時產生不可知的行為。

hadoop distcp -m 10

hdfs://namenodea/data

/weblogs hdfs:/

/namenodeb/data

/ weblogs

這裡,啟動10個map,如果weblogs一共10g,那麼每個map複製1g。

hadoop fs -lsr /data/weblogs/import
hadoop fs -cp src dst
hadoop fs -mv src dst
hadoop fs -cat /user/hadoop/a.txt
hadoop fs -rm /user/hadoop/a.txt

HDFS命令筆記

環境 hadoop 2.7 1 上傳檔案 上傳tem下的檔案到 hdfs中的 lcy路徑 上傳檔案的路徑必須是hdfs有訪問許可權的 上傳到的檔案路徑必須是hdfs能夠寫入的 sudo u hdfs hdfs put tem y lcy 2 檢視檔案 檢視hdfs下的檔案 路徑為 lcy yarn ...

HDFS命令參考

在 hadoop home bin hadoop fs裡有更多的命令,bin hdfs dfs 可以列出所有可以在fs shell系統上執行的命令。此 hadoop home bin hadoop fs help命令會顯示簡短的用法。所有表的操作如下所示,以下是使用引數的一般方式 means any...

HDFS檔案命令

hadoop fs genericopitions ls 顯示目標路徑當前目錄下的所有檔案 lsr 遞迴顯示目標路徑下的所有目錄及檔案 深度優先 du 以位元組為單位顯示目錄中所有檔案的大小,或該檔案的大小 如果 path 為檔案 dus 以位元組為單位顯示目標檔案大小 用於檢視資料夾大小 coun...