第三章 熟悉常用的HDFS操作

2022-06-04 19:45:10 字數 2077 閱讀 4992

一、hadoop提供的shell命令完成相同任務:

在本地linux檔案系統的「/home/hadoop/」目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.

在本地檢視檔案位置(ls)

在本地顯示檔案內容

cd /usr/local/hadoop

touch ly.txt

cat ly.txt

使用命令把本地檔案系統中的「txt」上傳到hdfs中的當前使用者目錄的input目錄下。

./sbin/start-dfs.sh

./bin/hdfs dfs -mkdir -p /user/hadoop

./bin/hdfs dfs -mkdir input

./bin/hdfs dfs -put ./ly.txt input

檢視hdfs中的檔案(-ls)

./bin/hdfs dfs -ls input

顯示hdfs中該的檔案內容

./bin/hdfs dfs -cat input/ly.txt

刪除本地的txt檔案並檢視目錄

./bin/hdfs dfs -rm -ls input/ly.txt

./bin/hdfs dfs -get input/test.txt ~/ly.txt

從hdfs中刪除txt並檢視目錄

./bin/hdfs dfs -rm -ls input/ly.txt

二、向hdfs中上傳任意文字檔案,如果指定的檔案在hdfs中已經存在,由使用者指定是追加到原有檔案末尾還是覆蓋原有的檔案;

if $(hdfs dfs -test -e ly.txt);

else $(hdfs dfs -copyfromlocal -f local.txt ly.txt);

fi

if $(hdfs dfs -test -e file:

then $(hdfs dfs -copytolocal ly.txt ./ly2.txt);

else $(hdfs dfs -copytolocal ly.txt ./ly.txt);

f

將hdfs中指定檔案的內容輸出到終端中;

hdfs dfs -cat ly.txt

顯示hdfs中指定的檔案的讀寫許可權、大小、建立時間、路徑等資訊;

hdfs dfs -ls -h ly.txt

提供乙個hdfs內的檔案的路徑,對該檔案進行建立和刪除操作。如果檔案所在目錄不存在,則自動建立目錄;

if $(hdfs dfs -test -d dir1/dir2);

then $(hdfs dfs -touchz dir1/dir2/filename);

else $(hdfs dfs -mkdir -p dir1/dir2 && hdfs dfs -touchz dir1/dir2/filename);

fi刪除檔案:hdfs dfs -rm dir1/dir2/filename

提供乙個hdfs的目錄的路徑,對該目錄進行建立和刪除操作。建立目錄時,如果目錄檔案所在目錄不存在則自動建立相應目錄;刪除目錄時,由使用者指定當該目錄不為空時是否還刪除該目錄;

hdfs dfs -mkdir -p dir1/dir2

hdfs dfs -rmdir dir1/dir2

hdfs dfs -rm -r dir1/dir2

向hdfs中指定的檔案追加內容,由使用者指定內容追加到原有檔案的開頭或結尾;

刪除hdfs中指定的檔案;

hdfs dfs -rm ly.txt

刪除hdfs中指定的目錄,由使用者指定目錄中如果存在檔案時是否刪除目錄;

hdfs dfs -rmdir dir1/dir2

hdfs dfs -rm -r dir1/dir2

在hdfs中,將檔案從源路徑移動到目的路徑。

hdfs dfs -mv ly.txt ly2.txt

第三章 熟悉常用HDFS操作

1.在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.2.在本地檢視檔案位置 ls 3.在本地顯示檔案內容 cd usr local hadoop touch test1.txt cat test1.txt 4.使用命令把本地檔案系統中的 txt...

第三章 熟悉常用的HDFS操作

一 hadoop提供的shell命令完成相同任務 在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.在本地檢視檔案位置 ls 在本地顯示檔案內容 使用命令把本地檔案系統中的 txt 上傳到hdfs中的當前使用者目錄的input目錄下。檢視hdfs...

第三章 熟悉常用的HDFS操作

程式設計實現以下指定功能,並利用hadoop提供的shell命令完成相同任務 在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.在本地檢視檔案位置 ls 在本地顯示檔案內容 使用命令把本地檔案系統中的 txt 上傳到hdfs中的當前使用者目錄的i...