hadoop學習2 HDFS操作

2022-04-01 09:45:47 字數 922 閱讀 4901

課程內容為hdfs的基本操作和hue頁面的使用主要是hdfs的基本命令。

對於檔案的操作,命令與linux的類似,但是要在前面加上hadoop fs

其基本的格式為 hadoop fs

檢視檔案 hadoop fs -ls

可以看到data資料夾下只有乙個資料夾test

建立路徑 hadoop fs -mkdir

現在再在data下建立乙個資料夾 test1

需要先解除安全模式,再建立資料夾

繼續在test1下建立資料夾 test11

刪除資料夾 hadoop fs -rm -r

-r引數代表將此資料夾連同此資料夾下的所有檔案刪除

將本地檔案放到hdfs上 hadoop fs -put [dir1][dir2]

引數dir1代表本地路徑,dir2代表hdfs路徑

本地的home下的兩個檔案 text1 和 wordcount 放到hdfs中的/data/test中

引數dir1代表hdfs路徑,dir2代表本地路徑

檢視檔案 hadoop fs -cat

text1和wordcount的內容

引數dir代表hdfs儲存要合併的檔案所在的路徑,file代表將合併結果儲存的本地檔名

text1和wordcount合併後的內容

使用hue,service hue start

埠為8888,使用者名稱密碼都是hdfs

開啟filebrowser 介面 上面基本的對資料夾的操作都有按鈕選項,如新建檔案,資料夾,刪除檔案

進入剛剛操作的目錄 /data/test下

點選檔案wordcount 在左邊欄有對該檔案的基本操作選項

hdfs的命令操作較為簡單基本,多加練習即可熟練操作,hue的介面功能豐富,在web頁面上直接操作更加直觀。

Hadoop學習2 hdfs節點間檔案塊分配原理

hdfs的全稱是hadoop distributed file system,是乙個常用的分布式檔案系統。當然也可以選擇其他檔案系統。在hdfs中,檔案被客戶端分解成若干塊,每一塊都有多份拷貝 拷貝的數量可配置 每乙份拷貝在不同的datanode節點上。這就保證了如果其中一台datanode節點宕機...

Hadoop操作HDFS命令

hadoop操作hdfs命令如下所示 hadoop fs 檢視hadoop hdfs支援的所有命令 hadoop fs ls 列出目錄及檔案資訊 hadoop fs lsr 迴圈列出目錄 子目錄及檔案資訊 hadoop fs put test.txt user sunlightcs 將本地檔案系統的...

Hadoop操作HDFS命令

hadoop操作hdfs命令如下所示 hadoop fs 檢視hadoop hdfs支援的所有命令 hadoop fs ls 列出目錄及檔案資訊 hadoop fs lsr 迴圈列出目錄 子目錄及檔案資訊 hadoop fs put test.txt user sunlightcs 將本地檔案系統的...