Hadoop筆記六之Hdfs的基本shell操作

2021-07-16 10:46:08 字數 855 閱讀 2012

使用hfds dfs 和hadoop fs來操作檔案這兩者一樣,命令格式為hadoop fs –ls dfhs://shb01:9000/也可以使用hadoop fs –ls /,/表示當前根目錄和dfhs://shb01:9000/一樣。hdfs是hadoop本身的協議,hdfs本身沒有許可權它借用的是linux許可權。

1:-put上傳命令

hadoop fs -put –p ./hello  /

將linux目錄下的hello檔案上傳到hdfs跟目錄下,-p可選,保留原檔案的一些特性。-f可選,直接覆蓋

2:-ls 檢視命令, -d 列出目錄–h顯示更易讀的大小–r遞迴

hadoop fs -ls /

found 1 items

-rw-r--r--   1 rootsupergroup         12 2016-08-10 02:47 /hello

3:-text 目標內容

hadoop fs -text /hello

hadoop fs -get /hello ./hello1

5:-mkdir 建立目錄,-p遞迴建立

hadoop fs -mkdir /shb01/02

6:-rm 刪除目錄,-r遞迴刪除

hadoop fs -rm -r /shb01

其中-代表命令列輸入以ctrl+c結束,如果是檔名則將linux上的檔案追加到hdfs上的檔案中。

8:複製

hadoop fs -cp /shb01/02 /shb01/03

9:改名

hadoop fs -mv /shb01/02 /shb01/03

10:檢視命令幫助資訊

hadoop fs -help ls

hadoop學習筆記(HDFS)

hdfs的設計基礎與目標 1 硬體錯誤是常態,因此需要冗餘。2 為大資料而生,流式讀寫,批量讀取而非隨機讀寫。擅長資料分析而不是事務處理。3 大規模資料集。4 一次寫多次讀邏輯設計,即一旦寫入,只能讀,不能修改。5 程式才用 資料就近 原則分配節點執行。hdfs的可靠性 冗餘副本策略 機架策略 心跳...

hadoop之HDFS的擴充

最近在vm中進行擴容之後考慮,openstack的容量新增,隨之想起hdfs的容量擴充的問題,從網上查詢資料之後,現總結如下 首先在伺服器上大都使用的linux的系統,實驗上大都採用的是centos開源的專案。在linux中新增硬碟時,需要考慮的是容量,但是隨著硬體資源的擴充套件現在磁碟的容量可鞥會...

Hadoop的HDFS的學習筆記

1,啟動服務端的nn,dn程序,提供乙個分布式檔案系統client 2,由客戶端向nn發起請求,請求上傳乙個檔案,nn對請求進行合法檢查 許可權,路徑是否合法,路徑是否存在 3,如果合法,nn響應客戶端允許上傳 4,客戶端根據自己設定的blk大小,切分blk,讀取第乙個blk的內容,請求nn分配dn...