hdfs相關問題

2021-10-07 14:33:25 字數 725 閱讀 1347

1.我有一萬個元素(比如數字或單詞)需要儲存?

如果查詢某乙個元素,最簡單的遍歷方式複雜的是多少?

如果我期望複雜度是o(4)呢?

2.有乙個非常大的文字檔案,裡面有很多很多的行,只有兩行一樣,它們出現在未知的位置,需要查詢到它們。

3.2000臺真的比一台速度快嗎?

如果考慮分發上傳檔案的時間呢?

如果考慮每天都有1t資料的產生呢?

如果增量了一年,最後一天計算資料呢?

4.分布式檔案系統那麼多,為什麼hadoop專案中還要開發乙個hdfs檔案系統?

5.hdfs的儲存模型。

6.hdfs的架構設計。

7.hdfs的角色功能。

8.hdfs的元資料持久化。

9.hdfs的安全模式。

10.hdfs的snn。

11.hdfs中的block的副本放置策略。

12.hdfs的寫流程。

13.hdfs的讀流程。

14.hadoop集群的三種方式。

15.hadoop集群搭建裡ssh免密是為了什麼?

16.hadoop集群搭建ha模式。

17.paxos演算法。

18.hadoop的federation。

19.hdfs超級使用者。

福大大架構師每日一題

HDFS篇 HDFS相關概念總結

簡介 儲存模型為 位元組,以檔案切割成塊,單一檔案大小一致,檔案與檔案間可以不一致。其可以設定副本數,副本數不可超過節點數量。只支援一次寫入多次讀取,可追加資料。架構模型 namenode節點儲存檔案的元資料 單節點 datanode節點儲存檔案block資料 多節點 datanode與nameno...

HDFS相關命令使用與了解

第五章 hdfs 一 操作hdfs 1 web console 埠50070 2 命令列 有兩種型別 1 普通操作命令 hdfs dfs 命令 mkdir 在hdfs上建立目錄 hdfs dfs mkdir aaa hdfs dfs mkdir bbb ccc 如果父目錄不存在,使用 p引數先建立父...

hdfs 許可權設定問題

hdfs 系統的許可權和 linux 相似 分為三個部分 hdfs的使用者 是和本地機器的使用者繫結的 使用 比如hdfs 使用者 上有乙個使用者叫profile 想要使用這個使用者許可權操作hdfs 就要在本地使用 sudo u profile 的方式來使用指定使用者操作hdfs 為了防止線上的資...