hadoop put命令的格式 HDFS常用命令

2021-10-14 14:59:56 字數 2246 閱讀 4113

一.hdfs命令列

hadoop help命令的使用

1.hadoop -help查詢所有hadoop shell支援的命令

2.distcp

這是hadoop下的乙個分布式複製程式,可以在不t同的hdfs集群間複製資料,也可以在本地檔案間複製資料。

hadoop distcp

將/test/test.txt檔案複製到/test/cp下面:hadoop distcp/test/test.txt/test/cp

將master1集群/test目錄(包含內容)複製到master2集群/test_cp目錄下:

hadoop distcp hdfs://master1/test hdfs://master2/test_cp

3.使用者可以把mapreduce****到jar檔案中,使用這個jar檔案

命令格式:hadoop jar [mainclass]arges

4.archive 建立乙個hadoop存檔檔案,這是一種特殊的文件格式。乙個hadoop archive對應乙個檔案系統目錄。hadoop archive的擴充套件名為*.har。可以將檔案寫入hdfs塊,一定程度上解決了大量小檔案耗費namenode節點的現象,同時允許對檔案的透明訪問。

命令格式:hadoop archive-archivename*

命令選項:

-archivename 要建立存檔檔案的名字

src 檔案系統的路徑名,和通常含正規表示式一樣

dest 儲存存檔檔案的目錄索引目標

for example:

1.hadoop archive-archivename part-20170906-0.har -p/input/ child1 child2/ah_input/har

2.檢視歸檔後的目錄結構:hadoop fs-lsr/

3.檢視結果檔案part -0的內容:hadoop fs-cat /test/in/har/0825.har/part-0

4.使用har uri訪問原始資料

har是hdfs之上的乙個檔案系統,因此所有fs shell命令對har檔案有用,只不過路徑格式不一樣

hadoop -lsr har://ah_input/har/part-20170906-0.har

5. 用har uri訪問下一級目錄

hdfs dfs-lsr har://ah_input/har/part-20170906-0.har/input

6.遠端訪問

hadoop fs-lsr har://master:8020/ah_input/har/part-20170906-0.har

其中master是namenode所在節點的主機名,8020是core-site.xml檔案中的fs.defaultfs引數配置中對應的埠號

7.刪除har檔案

必須使用rmr命令來刪除har檔案,rm命令是不行的

hadoop fs-rmr/ah_input/har/part-20170906-0.har

除此之外,har還可以作為mapreduce的輸入進行使用。

hdfs常用命令行操作

1.dfsadmin -help

help命令會在螢幕客戶端列出dfsadmin下的命令的列表及語法的命令格式的幫助資訊

hadoop dfsadmin -help

2.report

-report [-live][-dead][-decommissioning]:報告hdfs的基本資訊和統計資訊

3.safemode

-safemode:安全模式維護命令,可以說它是namenode狀態。處於安全模式時,它不接受對空間名字的修改(即唯讀),同時它不複製或刪除塊。在namenode啟動時,系統自動進入安全模式,當配置最小的block百分比滿足最小的複製條件時,就會自動離開安全模式。安全模式也可以手動輸入,此時只能手動關閉。

4.job -history 看歷史日誌彙總

5.dfs- mkdir在dfs建立目錄

hadoop dfs- mkdir/testmkdir

6.fs- put該命令上傳本地file到hdfs指定目錄

7.fs-lsr檢視所有檔案以及所在的目錄資訊

8.fs- cat檢視hdfs上的檔案內容

9.fs-rm刪除指定檔案

10.fs-rm-r 刪除hdfs上的資料夾以及資料夾的內容

11.fs-chmod更改hdfs檔案許可權

-r唯讀許可權

-w寫入許可權

-rw讀寫許可權

-x執行許可權

H 264碼流格式

2.1 術語和基本概念 2.2 h.264碼流結構 圖2 1 h.264碼流結構 nal單元 nal unit,簡稱nalu 由1個nal頭 nal header 和1個rbsp 或ebsp 組成。nal頭 nal header 長度為1個位元組,由 forbidden zero bit nal r...

h264格式解析

以個人的理解解析一下h264的格式,無非就是乙個乙個的幀,在實際應用中,判斷乙個h264檔案或者是h264流是否有問題可以按照以下格式解析來判斷它的頭部。nal頭 rbsp 1幀 nal頭一共一位元組 0 1 2 3 4 5 6 7 f nri type 67表示sps 68表示pps 65表示i幀...

html5中h265 H265之格式解析

頭定義如下 前面 4個位元組位00 00 00 01 為nul頭,這個和h264是一樣的。下面兩個位元組為40 01 二進位制 0100 0000 0000 0001 f 0 naltype 100 000 32 vps layerid 0 0000 0 0 tid 001 1 再根據h265的na...