hdfs檔案上傳

2021-09-19 16:23:16 字數 779 閱讀 1458

登陸hdfs的檔案埠查詢檔案路徑,登陸埠預設為50070

hadoop fs -ls /
hadoop dfs -mkdir /tmp/data
1.終端輸入:

vim test1.txt
鍵入內容儲存wq!

2.將伺服器上路徑資料為: /test 1.txt 的傳輸到hdfs中的 /tmp/data下

hadoop fs -put  /test 1.txt   /tmp/data
3檢視檔案是否上傳成功

hadoop fs -ls /input
4.檢視檔案內容

hadoop fs -cat /input/test1.txt
5.執行自帶的hadoop-mapreduce-example-2.7.4.jar

hadoop jar /usr/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.4.jar wordcount /input /output

HDFS上傳檔案

1.client端向namenode請求上傳檔案,檢視檔案是否存在,是否有許可權往hdfs寫入 2.如果檔案不存在,許可權ok就根據副本數n 例如2個 根據網路拓撲選擇n個離client端最近的datanode返回client。把檔案切塊,乙個乙個block塊的請求namenode,返回最優的dat...

上傳檔案到HDFS

hadoop計算需要在hdfs檔案系統上進行,檔案上傳到hdfs上通常有三種方法 a hadoop自帶的dfs服務,put b hadoop的api,writer物件可以實現這一功能 c 呼叫otl可執行程式,資料從資料庫直接進入hadoop hadoop計算需要在hdfs檔案系統上進行,因此每次計...

上傳檔案到HDFS方式

hadoop計算需要在hdfs檔案系統上進行,因此每次計算之前必須把需要用到的檔案 我們稱為原始檔案 都上傳到hdfs上。檔案上傳到hdfs上通常有三種方法 1 hadoop自帶的dfs服務,put 2 hadoop的api,writer物件可以實現這一功能 3 呼叫otl可執行程式,資料從資料庫直...