HDFS高階功能

2021-08-26 12:30:42 字數 2682 閱讀 8564

hdfs的高階功能

1、**站

補充:oracle的**站

恢復:閃回(flashback)

(1) 閃回表  flashback table

(2) 閃回刪除  flashback drop

(3) 閃回查詢 flashback query

(4) 閃回事務查詢 flashback transaction query   -----> 可以撤銷乙個已經提交了的事務

(5) 閃回資料庫 flashback database 

(6) 閃回版本查詢 flashback verion query

(7) 閃回資料歸檔  flashback data archive

hdfs的**站:預設禁用

引數: core-site.xml 

單位:分鐘

fs.trash.interval

1440

沒有**站

日誌:18/04/09 21:35:40 info fs.trashpolicydefault: namenode trash configuration: deletion interval = 0 minutes, emptier interval = 0 minutes.

deleted /tools ---> 成功刪除(對比:**站)            

**站moved: 'hdfs://bigdata111:9000/tools/a.zip' to trash at: hdfs://bigdata111:9000/user/root/.trash/current

hdfs**站的本質:ctrl +x 移動到乙個隱藏目錄

檢視**站

hdfs dfs -lsr /user/root/.trash/current

從**站中恢復

hdfs dfs -cp /user/root/.trash/current/tools/a.zip /tools            

[-expunge] 清空**站

2、快照:snapshot(是一種備份)

本質:cp命令

管理命令

[-allowsnapshot ]

[-disallowsnapshot ]

操作命令

[-createsnapshot ]

[-deletesnapshot ]

[-renamesnapshot ]

(*) 預設禁用

(*) 針對目錄開啟快照

hdfs dfsadmin -allowsnapshot /students

(*) 建立乙個備份

hdfs dfs -createsnapshot /students backup_student_0411_01

日誌:created snapshot /students/.snapshot/backup_student_0411_01

hdfs dfs -put student03.txt /students

hdfs dfs -createsnapshot /students backup_student_0411_02

(*) 對比快照

hdfs snapshotdiff /students backup_student_0411_01 backup_student_0411_02

m       .

+       ./student03.txt

hdfs lssnapshottabledir

通過網頁檢視

(*)恢復快照

hdfs dfs -cp /input/.snapshot/backup_input_01/data.txt /input

補充:oracle資料庫快照: 一般做非同步更新

create snapshot aaaa as 子查詢 更新時間

oracle資料庫備份

exp、expdp、資料幫浦 ----> 邏輯備份 匯出資料

rman: recovery manager

3、配額(quota)

(1)名稱配額: 限制某個目錄下,檔案的個數

[-setquota ...]

[-clrquota ...]    

hdfs dfs -mkdir /folder1

hdfs dfsadmin -setquota 3 /folder1

實際是:n-1

(2)空間配額: 限制某個目錄下,檔案的大小

[-setspacequota [-storagetype ] ...]

[-clrspacequota [-storagetype ] ...]        

hdfs dfs -mkdir /folder2

設定空間配額:1m

hdfs dfsadmin -setspacequota 1m /folder2

錯誤:the diskspace quota of /folder2 is exceeded: quota = 1048576 b = 1 mb but diskspace consumed = 134217728 b = 128 mb

注意:設定的值一定不能小於128m

4、安全模式:safemode

5、簡介:hdfs的集群

(1)聯盟federation

(2)ha

HDFS 節點功能

hdfs中三種節點的功能 一 namenode nn namenode主要功能 接受客戶端的讀寫服務 namenode儲存元資料 metadata 資訊,主要包括 1 檔案擁有者和許可權 2 檔案包含哪些塊 3 每個塊儲存在哪個datanode上 由datanode啟動時上報 解釋 每個塊儲存在哪個...

HDFS快照snapshot功能

hdfs 快照是檔案系統的唯讀時間點副本。可以在檔案系統或整個檔案系統的子樹上拍攝快照。快照的一些常見用例是資料備份 防止使用者錯誤和災難恢復。hdfs 快照的實現是有效的 一旦目錄被設定為 snapshotable,就可以在任何目錄上拍攝快照。乙個快照目錄可以同時容納65,536個快照。快照目錄的...

Git 高階功能

tip 在我們的 windows 下 git 配置與使用指南 中,有介紹大家使用 git go 命令。其實,這並非 git 的原生命令,它是我們自定義的乙個 alias 別名 由 git add git commit git push 和 git pull 四個命令組合而成。待熟悉之後,你可以直接使...