HDFS相關命令使用與了解

2022-09-12 08:06:11 字數 2581 閱讀 4332

第五章:hdfs

一、操作hdfs

1、web console:埠50070

2、命令列:有兩種型別

(1)普通操作命令: hdfs dfs ******

命令-mkdir:在hdfs上建立目錄

hdfs dfs -mkdir /aaa

hdfs dfs -mkdir /bbb/ccc

如果父目錄不存在,使用-p引數先建立父目錄

-ls      檢視hdfs的某個目錄

-ls -r 檢視hdfs的某個目錄,包含子目錄

簡寫: -lsr

-put 上傳資料

-copyfromlocal 上傳資料

-movefromlocal 上傳資料,相當於ctrl+x

舉例: hdfs dfs -get /input/data.txt .

-rm: 刪除目錄

-rmr: 刪除目錄,包括子目錄

hdfs dfs -rmr /bbb

日誌:17/12/08 20:32:10 info fs.trashpolicydefault: namenode trash configuration: deletion interval = 0 minutes, emptier interval = 0 minutes.

deleted /bbb

-cp:拷貝 hdfs dfs -cp /input/data.txt /input/data2.txt

-mv:移動 hdfs dfs -cp /input/data.txt /aaa/a.txt

-count: 舉例:hdfs dfs -count /students

-du: 類似-count,資訊更詳細

hdfs dfs -du /students

例子:[root@bigdata11 ~]# hdfs dfs -count /students

1 2 29 /students

[root@bigdata11 ~]# hdfs dfs -ls /students

found 2 items

-rw-r--r-- 1 root supergroup 19 2017-12-08 20:35 /students/student01.txt

-rw-r--r-- 1 root supergroup 10 2017-12-08 20:35 /students/student02.txt

[root@bigdata11 ~]# hdfs dfs -du /students

19 /students/student01.txt

10 /students/student02.txt

-text、-cat: 檢視文字的內容

hdfs dfs -cat /input/data.txt

balancer:平衡操作

hdfs balancer

(2)管理命令:hdfs dfsadmin ******

-report: 列印hdfs的報告

舉例:hdfs dfsadmin -report

-safemode:安全模式

hdfs dfsadmin -safemode

usage: hdfs dfsadmin [-safemode enter | le**e | get | wait]

[root@bigdata11 ~]# hdfs dfsadmin -safemode get

safe mode is off

[root@bigdata11 ~]# hdfs dfsadmin -safemode enter

safe mode is on

[root@bigdata11 ~]# hdfs dfs -mkdir /dddd

mkdir: cannot create directory /dddd. name node is in safe mode.

[root@bigdata11 ~]# hdfs dfsadmin -safemode le**e

safe mode is off

3、j**a api

(1)建立乙個目錄:mkdir ----> 告訴:許可權的問題

(3)查詢資料的元資訊

依賴的jar包:

/root/training/hadoop-2.7.3/share/hadoop/common

/root/training/hadoop-2.7.3/share/hadoop/common/lib

/root/training/hadoop-2.7.3/share/hadoop/hdfs

/root/training/hadoop-2.7.3/share/hadoop/hdfs/lib

三、hdfs的高階特性

1、**站

2、快照snapshot:備份

3、配額quota:(1)名稱配額

(2)空間配額

4、hdfs安全模式: safemode

5、hdfs的許可權

6、hdfs的集群:(1)聯盟federation

(2)ha

hdfs使用操作命令

cat 使用方法 hadoop fs cat uri uri 將路徑指定檔案的內容輸出到stdout 例項 hadoop fs cat file file3 user hadoop file4 chgrp 使用方法 hadoop fs chgrp r group uri uri 改變檔案所屬的組。使...

hdfs命令使用小抄

記錄常用hdfs命令 1 新建目錄 hadoop fs mkdir notice mkdir新建目錄的時候,父目錄必須存在。hadoop不能自動生成父目錄。比如 要新建hdfs common use software時,hdfs common use 需存在 hadoop fs mkdir hdfs...

nginx使用相關命令與配置

首先,mac預設安裝的nginx目錄位於 usr local etc nginx 啟動時命令為brew services start nginx,修改配置檔案為vim nginx.conf.default,然後重啟服務brew services restart nginx。在專案根目錄中配置ngin...