GFS的粗淺認知

2021-09-19 06:27:37 字數 3863 閱讀 8146

@

google檔案系統gfs google設計gfs的動機 為了滿足google迅速增長的資料處理需求,需要乙個支援海量儲存的檔案系統 購置昂貴的分布式檔案系統與硬體。為什麼不使用當時現存的檔案系統?因為 google設計gfs的動機是設計與google應用和負載相符的檔案系統 gfs的假設與目標 硬體出錯是正常而非異常 。系統應當由大量廉價、易損的硬體組成 組成 必須保持檔案系統整體的可靠性。

起初,gfs被設想為乙個為生產系統服務的後台檔案系統。隨著時間遷移,它發展為包括研究和研發的任務。開始時極少的功能支援例如許可權和配額,但是現在全面支援了這些。

gfs(google檔案系統)作為乙個分布式檔案系統,為google提供基礎的海量資料儲存服務。gfs是架構分為三個gfs master、gfs chunkserver、gfs client關鍵部分。

gfs master是單獨節點,管理gfs所有元資料。單一的master簡化了設計,使架構能變得簡單。 缺點是有可能成為系統瓶頸,故需減少對master的讀寫 => client只詢問master相關檔案的元資料資訊,後面的具體讀寫操作均在chunkserver上。master一般會返回離client最近的檔案副本。gfs chunkserver:資料儲存節點,檔案被分割為固定大小的chunk,每個chunk被唯一標識,預設情況下,chunk儲存為3個副本。chunk是乙個關鍵的設計引數,預設為64mb。每個chunk都以普通linux檔案儲存在chunkserver上。較大chunk尺寸的優點:1 減少client和master通訊。2、減少master儲存元資料的大小。 3 、client對乙個chunk能進行多次操作,減少網路io。較大chunk尺寸的缺點:小檔案會儲存為乙個chunk,多個client同時對單個小檔案多次操作時,存放這個chunk的chunkserver會成為熱點。

gfs的優點很明顯,它有高度的可靠性。不管如何終止服務,master和資料塊伺服器都會在幾秒鐘內恢復狀態和執行。在資料塊伺服器掉線或是資料被破壞時,master會按照需要來複製資料塊。每個資料塊伺服器都利用校驗和來檢驗儲存資料的完整性。

toc

你好! 這是你第一次使用markdown編輯器所展示的歡迎頁。如果你想學習如何使用markdown編輯器, 可以仔細閱讀這篇文章,了解一下markdown的基本語法知識。

全新的介面設計,將會帶來全新的寫作體驗;

在創作中心設定你喜愛的**高亮樣式,markdown將**片顯示選擇的高亮樣式進行展示;

全新的katex數學公式語法;

增加了支援甘特圖的mermaid語法1

功能;增加了焦點寫作模式、預覽模式、簡潔寫作模式、左右區域同步滾輪設定等功能,功能按鈕位於編輯區域與預覽區域中間;

增加了檢查列表功能。

撤銷:ctrl/command + z

重做:ctrl/command + y

加粗:ctrl/command + b

斜體:ctrl/command + i

無序列表:ctrl/command + shift + u

有序列表:ctrl/command + shift + o

檢查列表:ctrl/command + shift + c

插入**:ctrl/command + shift + k

插入:ctrl/command + shift + g

直接輸入1次#,並按下space後,將生成1級標題。

輸入2次#,並按下space後,將生成2級標題。

以此類推,我們支援6級標題。有助於使用toc語法後生成乙個完美的目錄。

強調文字

強調文字

加粗文字加粗文字

標記文字

刪除文字

引用文字

h2o is是液體。

210 運算結果是 1024.

帶尺寸的:

居中的:

居中並且帶尺寸的:

當然,我們為了讓使用者更加便捷,我們增加了拖拽功能。

去部落格設定頁面,選擇一款你喜歡的**片高亮樣式,下面展示同樣高亮的**片.

// an highlighted block

var foo =

'bar'

;

專案1專案2

專案3乙個簡單的**是這麼建立的:

專案value

電腦$1600

手機$12

導管$1

使用:---------:居中

使用:----------居左

使用----------:居右

第一列第二列

第三列第一列文字居中

第二列文字居右

第三列文字居左

smartypants將ascii標點字元轉換為「智慧型」印刷標點html實體。例如:

type

ascii

html

single backticks

'isn't this fun?'『isn』t this fun?』

quotes

"isn't this fun?"「isn』t this fun?」

dashes

-- is en-dash, --- is em-dash– is en-dash, — is em-dash

markdown

text-to-

html conversion tool

authors

john

luke

乙個具有註腳的文字。2

markdown將文字轉換為 html。

您可以使用渲染latex數學表示式 katex:

gamma公式展示 γ(n

)=(n

−1)!

∀n∈n

\gamma(n) = (n-1)!\quad\forall n\in\mathbb n

γ(n)=(

n−1)

!∀n∈

n 是通過尤拉積分

γ (z

)=∫0

∞tz−

1e−t

dt.\gamma(z) = \int_0^\infty t^e^dt\,.

γ(z)=∫

0∞​t

z−1e

−tdt

.

你可以找到更多關於的資訊latex數學表示式here.

可以使用uml圖表進行渲染。 mermaid. 例如下面產生的乙個序列圖::

這將產生乙個流程圖。:

我們依舊會支援flowchart的流程圖:

如果你想嘗試使用此編輯器, 你可以在此篇文章任意編輯。當你完成了一篇文章的寫作, 在上方工具欄找到文章匯出,生成乙個.md檔案或者.html檔案進行本地儲存。

如果你想載入一篇你寫過的.md檔案或者.html檔案,在上方工具欄可以選擇匯入功能進行對應副檔名的檔案匯入,

繼續你的創作。

mermaid語法說明↩︎

註腳的解釋 ↩︎

對Mybatis粗淺認知

首先我們應該知道ibatis就是mybatis的前身是apache的ibatis,後來放到google code 改名為mybatis。但是mybatis並不是jpa下的產品,jpa是一套規範,用以規範時長上的orm框架,但是mybatis並不是實現jpa的產品 mybatis相對於hibernat...

GFS的系統架構

劉鵬 雲計算 第二版 是控制流,是資料流 client 應用程式的訪問介面 master 主伺服器 管理節點,在邏輯上只有乙個,儲存系統的元資料 metadata,描述資料的資料 負責整個檔案系統的管理。chunk server 資料庫伺服器 負責具體的儲存工作。資料以檔案的形式儲存在chunk s...

HDFS 與 GFS 的設計差異

後端分布式系列 前面關於 hdfs 的一些文章介紹了它的整體架構和一些關鍵部件的設計實現要點。我們知道 hdfs 最早是根據 gfs google file system 的 概念模型來設計實現的。然後呢,我就去把 gfs 的原始 找出來仔細看了遍,gfs 的整體架構圖如下 hdfs 參照了它所以大...