儲存是怎樣煉成的?

2022-01-13 13:01:55 字數 1919 閱讀 4310

什麼fat,ntfs,nfs,das,san,nas,osd這些名詞我乙個都不認識。

不知道各位大佬對上面的名詞了解多少,通過上面的一些名詞其實可以大致的看到儲存是怎樣一步步發展的。其中fat,ntfs和nfs都是支援特定儲存協議的儲存系統,das,san,nas,osd是一種儲存模型。稍微科普一下:

fat,ntfs大家肯定比較熟悉,這個就是單機檔案系統,類似的還有ext4等等。windows系統就是ntfs,linux是ext4居多。

nfs(network file system)即網路檔案系統,它允許網路中的計算機之間通過tcp/ip網路共享資源。使計算機可以像操作單機檔案系統一樣操作網路中的資源。

das(direct-attached storage)直連式儲存,是一種常用的儲存模型。比如我們常用的行動硬碟,u盤就是直連式儲存。它有非常大的弊端,不易擴容,效能低,不可靠等。

san(storage area network)儲存區域網路,它其實是建立專用於儲存的區域網路,以達到儲存和主機的物理分離。主要面向企業級儲存,從理論上講其易擴容可以支撐海量的資料儲存,但是需要建立專用的光纖網路,成本較高。

nas(network attached storage)網路附加儲存,可以簡單理解為便捷的區域網儲存裝置,在linux系統中可以通過nfs協議掛載nas儲存。nas相對於san擁有自己的作業系統,可以與各個系統更好的相容,且更加靈活。

osd(object-based storage device)物件儲存,物件儲存是一種新的網路儲存架構,它兼具san高速直接訪問磁碟和nas分布式共享的特點,將資料儲存和元資料資訊分離,可以更加靈活的管理資料的儲存。

了解了上面那麼多的名詞,我們對於儲存的發展大概有了乙個認識了。其實儲存的發展大概可以分為4個階段,分別是單機檔案系統,網路檔案系統,集群檔案系統和分布式檔案系統。

以fat,ntfs為代表,das其實也可以算作單機檔案系統,他們共同的特點就是檔案儲存在單台伺服器上,依靠作業系統的檔案系統來實現檔案的儲存和管理。隨著資料量的增大以及對與資料安全性的需求越來越高,它們的缺點也日益顯露。

可擴充套件性:容量小,無法儲存大量資料,而且不能進行擴充套件。

效能:隨著檔案數量的增多,讀寫效能會下降

可靠性:沒有備份機制,一旦硬體出了故障會造成資料的丟失。

以nas為代表,應用實現比如我們常用的網盤。它依託於網路提供了一定的便捷性,而且支援容量擴充套件,解決了單機檔案系統容量小的問題。但是對於效能和可靠性的問題並沒解決。

以san為代表,實現比如redhat的gfs(非google的gfs),它是通過多個節點構成乙個集群,各個節點的資料是相同的,對其中乙個節點的資料進行修改時,其會以廣播的形式通知其他各個節點。通過這一特性解決了單機檔案系統存在的各項缺點。支援多個節點的擴充套件,多台節點共同提供服務提高效能,多個節點都進行資料儲存保障資料的可靠性。但是其同樣擁有很多缺點,集群的節點不能太多,對某一資料進行修改需要修改整個集群等等

以hdfs,ceph和osd為代表,實現了支援大規模節點的集群,並且提高了儲存效能和資料的可靠性。我們用過hdfs或者ceph的都清楚,他們依託於廉價的儲存裝置,可以隨時增刪節點對整個集群進行動態的擴容,高度可擴充套件。可以有效的避免單點故障,具有很高的容錯性,可以提高穩定可靠的服務。整個分布式系統具有較高的吞吐量,可以滿足大資料時代對於資料的儲存。

前面的文章初識大資料中我們提到了hdfs和ceph,兩者都是當前使用較廣泛的分布式儲存服務,支援萬級集群規模,應用感知進行負載均衡優化效能和效率。hdfs作為hadoop的一大核心為分布式計算提供了有力的支援,但是由於其設計對於小檔案的支援並不好。ceph實現了統一儲存,同時支援檔案,塊和物件儲存。兩者都支援資料的歸檔壓縮提高儲存空間利用率,並以糾刪碼技術為主,複製副本技術為輔提高資料的可靠性。

是時候發明乙個新名詞了~~~

歡迎關注我:叄金大資料(不穩定持續更新~~~)

敏捷是怎樣煉成的

很早之前,就有了寫 的衝動,寫一本給程式設計師看的 寫一本能夠反映中國程式設計師生活的 曾幾何時,沉默寡言 喜歡獨自思考 甚至 木吶 成為了程式設計師的標籤。其實在每個程式設計師心中,除了對技術的痴迷,他們也熱愛生活。他們改變著技術,也同時被技術改變著。他們是一群普通的人,也是自己心中的英雄。之所以...

ThreadLocal是怎樣煉成的

好久沒更新部落格了,一直都有學習新知識,但是沒時間總結,主要因為顧著去發展模型興趣去了哈 難得靜下來寫一篇部落格 閒話不多說,直接進入主題 threadlocal是解決執行緒安全問題乙個很好的思路,threadlocal類中有乙個map,用於儲存每乙個執行緒的變數副本,map中元素的鍵為執行緒物件,...

精英是怎樣煉成的?

精英總是少數 細節決定成就 素質決定高度。一 細節 我們都知道一句話叫細節決定成敗,這不是乙個口號,也不是心靈雞湯,這是真真正正很有用的一句話。大家認為細節是什麼 細節是小事 什麼小事 是起關鍵作用的小事 禮記 君子慎始 失之毫釐,謬以千里。咱們不說航母上的一顆鉚釘製造的標準有多嚴格,也不說火車鋼軌...