hdfs是乙個檔案系統，用於儲存檔案，通過統一的命名空間——目錄樹來定位檔案,其次，它是分布式的，由很多伺服器聯合起來實現其功能，集群中的伺服器有各自的角色；
重要特性如下：
（1）hdfs中的檔案在物理上是分塊儲存（block），塊的大小可以通過配置引數( dfs.blocksize)來規定，預設大小在hadoop2.x版本中是128m，老版本中是64m
（2）hdfs檔案系統會給客戶端提供乙個統一的抽象目錄樹，客戶端通過路徑來訪問檔案，形如：hdfs://namenode:port/dir-a/dir-b/dir-c/file.data
（3）目錄結構及檔案分塊資訊(元資料)的管理由namenode節點承擔——namenode是hdfs集群主節點，負責維護整個hdfs檔案系統的目錄樹，以及每乙個路徑（檔案）所對應的block塊資訊（block的id，及所在的datanode伺服器）
（4）檔案的各個block的儲存管理由datanode節點承擔---- datanode是hdfs集群從節點，每乙個block都可以在多個datanode上儲存多個副本（副本數量也可以通過引數設定dfs.replication）
（5）hdfs是設計成適應一次寫入，多次讀出的場景，且不支援檔案的修改
(注：適合用來做資料分析，並不適合用來做網盤應用，因為，不便修改，延遲大，網路開銷大，成本太高)
hdfs提供shell命令列客戶端，使用方法如下：(官方文件)
command [genericoptions] [commandoptions]
-help
功能：輸出這個命令引數手冊
-ls
功能：顯示目錄資訊
示例：
hadoop fs -ls hdfs://hadoop-server01:9000/
備註：這些引數中，所有的
hdfs
路徑都可以簡寫
-->
hadoop fs -ls /
等同於上一條命令的效果
-mkdir
功能：在
hdfs
上建立目錄
示例：hadoop fs -mkdir -p /aaa/bbb/cc/dd
-movefromlocal
功能：從本地剪下貼上到
hdfs
示例：hadoop fs - movefromlocal /home/hadoop/a.txt /aaa/bbb/cc/dd
-movetolocal
功能：從
hdfs
剪下貼上到本地
示例：hadoop fs - movetolocal /aaa/bbb/cc/dd /home/hadoop/a.txt
功能：追加乙個檔案到已經存在的檔案末尾
示例： 可以簡寫為：
-cat
功能：顯示檔案內容
示例：hadoop fs -cat /hello.txt
-tail
功能：顯示乙個檔案的末尾
示例：hadoop fs -tail /weblog/access_log.1
-text
功能：以字元形式列印乙個檔案的內容
示例：hadoop fs -text /weblog/access_log.1
-chgrp
-chmod
-chown
功能：
linux
檔案系統中的用法一樣，對檔案所屬許可權
示例：hadoop fs -chmod 666 /hello.txt
hadoop fs -chown someuser:somegrp /hello.txt
-copyfromlocal
功能：從本地檔案系統中拷貝檔案到
hdfs
路徑去
示例：hadoop fs -copyfromlocal ./jdk.tar.gz /aaa/
-copytolocal
功能：從
hdfs
拷貝到本地
示例：hadoop fs -copytolocal /aaa/jdk.tar.gz
-cp
功能：從
hdfs
的乙個路徑拷貝
hdfs
的另乙個路徑
示例：hadoop fs -cp /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2
-mv
功能：在
hdfs
目錄中移動檔案
示例：hadoop fs -mv /aaa/jdk.tar.gz /
-get
功能：等同於
copytolocal
，就是從
hdfs
示例：hadoop fs -get /aaa/jdk.tar.gz
-getmerge
示例：比如
hdfs
的目錄/aaa/
下有多個檔案
:log.1, log.2,log.3,...
hadoop fs -getmerge /aaa/log.* ./log.sum
-put
功能：等同於
copyfromlocal
示例：hadoop fs -put /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2
-rm
功能：刪除檔案或資料夾
示例：hadoop fs -rm -r /aaa/bbb/
-rmdir
功能：刪除空目錄
示例：hadoop fs -rmdir /aaa/bbb/ccc
-df
功能：統計檔案系統的可用空間資訊
示例：hadoop fs -df -h /
-du
功能：統計資料夾的大小資訊
示例：hadoop fs -du -s -h /aaa/*
-count
功能：統計乙個指定目錄下的檔案節點數量
示例：hadoop fs -count /aaa/
-setrep
功能：設定
hdfs
中檔案的副本數量
示例：hadoop fs -setrep 3 /aaa/jdk.tar.gz
Hadoop第4周練習 HDFS讀寫檔案操作
1 執行環境說明 1.1 硬軟體環境 1.2 機器網路環境 2 書面作業1 編譯並執行 權威指南 中的例3.2 2.1 書面作業1內容 2.2 執行 2.3 實現過程 2.3.1 建立 目錄 2.3.2 建立例子檔案上傳到hdfs中 2.3.3 配置本地環境 2.3.4 編寫 2.3.5 編譯 2....
hadoop起步之HDFS基本概念
1 適用範圍 1 適用於一次寫入，多次讀取的大檔案儲存方案 2 不適用於低延遲的需求方案，可以考慮hbase 3 不適用於海量小檔案儲存 metadata會膨脹 2 兩個角色 1 namenode，主要管理檔案目錄樹，檔案元資料，並知曉乙個檔案的block都在哪些datanode上 2 datano...
Hadoop筆記六之Hdfs的基本shell操作
使用hfds dfs 和hadoop fs來操作檔案這兩者一樣，命令格式為hadoop fs ls dfhs shb01 9000 也可以使用hadoop fs ls 表示當前根目錄和dfhs shb01 9000 一樣。hdfs是hadoop本身的協議，hdfs本身沒有許可權它借用的是linux許...