雲數智驅動資料高速增長,浪潮儲存提供EB級容量擴充套件

2021-10-09 16:38:07 字數 3100 閱讀 4386

根據idc報告,在2014-2023年,it從業人員數量僅僅增長1.285倍,但平均每個it人員管理的資料量從230gb增加到1231gb,超過5倍。而在未來兩年,企業資料預計仍將以42.2%的速度增長。儘管大多數企業認為資料是企業的無形資產,然而目前企業僅捕獲了56%的可用資料,幾乎一半的資料流失掉了,如何擴充套件資料儲存系統的容量成為企業面臨的重要議題。

隨著大資料、人工智慧、物聯網、5g等科技手段的不斷推進,人們已經走進資料互聯的時代。在資料需求日漸強烈的當下,邊緣裝置的工藝、精度越來越高,資料取樣的方式逐漸增多,產生的資料量也快速增長,到2023年44%的資料將在邊緣和核心建立,將有越來越多的物聯網裝置向企業輸送資料。同時,基於資料探勘和智慧型應用,資料的生產者也不再只有人和裝置,資料本身也參與到了生產資料的環節中來,成為了新的資料生產者,資料的產生進入乙個巨大的迴圈,資料總量呈指數級增長。

浪潮儲存產品線總經理李輝曾表示,「人工智慧、大資料、5g新技術驅動下,資料發生本質改變,從過去『人工採集、人工干預』過渡到現在『機器產生、機器處理』的新時代,資料量爆發式增長成為新常態。」據idc**,2023年全球將有超59zb的資料被建立、捕獲、複製和消費,其中原始資料與複製資料(主要為機器處理產生的資料)的比率大約為1:9,未來複製資料將推動全球資料的增長,預計到2023年複製資料將達到原始資料的10倍。

這些資料**廣泛,它對儲存有什麼要求?it人員如何管理這些迅猛增長的資料呢?

新資料時代對海量資料的儲存系統提出嚴苛要求

**其一,高密度、大容量、可擴充套件。**資料的爆發式增長和儲存週期的延長,帶來了對儲存空間的直接需求。傳統的儲存架構已經無法解決如此大資料量的儲存空間問題。需要一套具有eb級擴充套件性、支援千億級檔案並支援多種服務介面的新型儲存系統,滿足海量、多元化資料儲存的同時,實現跨平台無障礙對接。

**其二,高可靠、高可用。**儲存系統承擔著使用者的核心資料,與業務系統互動頻繁,一旦出故障,將直接影響業務系統的執行狀態,甚至引發資料完整性、安全性問題。而大規模儲存系統,硬體故障將成為常態,對儲存集群的負載均衡,資料冗餘,系統重建和故障排除都有著較高要求,如何有效的避免故障和高效的管理、處理故障就顯得尤為重要。

浪潮分布式儲存應運而生

面對挑戰,浪潮儲存提出「雲存智用

運籌新資料」的理念,並發布了「as13000g5超大規模資料中心級分布式儲存平台」,幫助使用者解決海量資料的儲存問題,為使用者的資料中心打造面向未來的儲存平台。

**首先,浪潮分布式儲存系統基於scale out架構實現了容量極致擴充套件。**浪潮分布式儲存系統as13000g5,通過scale out橫向擴充套件的基礎架構,實現單儲存系統節點擴充套件數達5120個,可形成eb級海量儲存空間,支援千億資料檔案管理。系統通過海量儲存系統對底層硬碟資源進行池化,形成統一資源池,同時提供檔案儲存、物件儲存、塊儲存、大資料四種儲存服務,支撐上層多種應用,承載多元化的海量資料。依賴橫向擴充套件的分布式儲存架構,儲存效能隨容量擴充套件而線性提公升,從而達到千萬級iops和百gb頻寬的極致效能。

**其次,浪潮分布式儲存依託多項高階功能優化容量資源利用率。**依託強大的研發實力,浪潮as13000g5分布式儲存在研發過程中實現多項技術突破,並演進迭代成為功能特性,進一步提公升大規模儲存集群的整體可用性、可靠性。

一是高階糾刪。浪潮儲存基於高階糾刪技術將空間利用率相較三副本提公升2倍以上,在保障空間利用率的前提下,公升級磁碟故障的可靠性。同時,支援通過故障域劃分技術將乙個故障單元劃分成兩個邏輯的故障單元,使得糾刪策略的配置更加靈活;

二是資料均衡。浪潮儲存採取全域性一致性容量均衡技術,通過為每個硬碟增加引用計數,保證資料在集群所有硬碟中均勻分布。控制硬碟容量使用率偏差在2%以內,系統容量實際利用率最高可達98%;

三是急速拷貝。浪潮儲存基於急速拷貝技術,無**件大小都可以瞬間完成拷貝操作,乙個原始檔可以拷貝成多個目標檔案,每個檔案的資料只在修改時複製,節約空間;

四是元資料集群。浪潮儲存通過部署多個active元資料服務,優化元資料服務的記憶體占用及多服務間負載均衡,提高元資料併發處理能力。實現海量元資料管理的同時,提公升元資料處理效能;

五是快速重構。浪潮儲存在硬碟發生故障時資料重構速度最快可達4tb/h,支援根據業務情況配置重構速度,採用合理的重構策略。

極致容量下的極易管理

儲存集群在大規模部署的情況下,運維的量級和難度對使用者來說都是極大的挑戰。浪潮智慧型統一儲存管理平台inview面向全系浪潮儲存平台實現管理,採用大資料和ai技術採集硬碟、系統壓力等資料,傳送給ai引擎執行分析,輸出結果和處理建議,構建智慧型化運維管理平台,實現對儲存平台自動化部署、狀態監測、容量**、效能優化、遠端巡檢、故障診斷、磁碟故障**、資產管理等智慧型化運營,解決大規模it系統運維難題,提高運維效率,降低運維成本,優化使用者體驗,保障業務連續性。

通過配置inview,系統運維由被動模式轉換為主動模式,大幅提公升系統運維能力和穩定性。為使用者帶來看得見的收益,比如多套儲存平台統一管理、統一入口,實現儲存平台精細管理;又如基於神經網路演算法和先進訓練模型,在3年多時間內收集超50萬個硬碟樣本,實現故障型別100%覆蓋,再如實現14天內磁碟故障****準確率高於85%。此外,浪潮儲存還可以進行容量、效能智慧型**。例如,inview的容量智慧型**如下圖。

浪潮儲存圍繞解決資料儲存問題,在「存得下」的基礎上,充分考慮大規模儲存集群對成本和硬體故障的敏感性,在低投入的情況下實現高容量的資料儲存,並且通過多種功能特性給予儲存系統更高的可靠性、安全性和可用性,進一步實現了「存得穩」、「管得全」。

浪潮儲存基於七大極致硬核技術形成了強大的產品競爭力,二季度浪潮分布式儲存出貨量同比增長313%,遠超業界平均增速。浪潮儲存在殊多行業斬獲大單,為中國移動大雲5.0、全球最大天文望遠鏡fast、中國氣象大資料研究等超級工程專案提供彈性、靈活、高效的資料儲存服務。浪潮儲存將持續以「雲存智用 運籌新資料」賦能智算中心,在分布式儲存領域加速創新,釋放資料要素價值驅動行業數位化轉型。

優雲數智 Ceph 開發者月報 2018 07

umcloud儲存團隊 umcloud優雲數智 昨天 本篇為 2018 年度 ceph 開發者月報 專欄的第七篇,在 ceph 開發者月報 中,我們 umcloud 儲存團隊將以月度為單位,為大家分享當月 ceph 社群的有趣的提交和重要的變更,方便大家即刻掌握一手 ceph 社群開發資料。每篇將以...

美雲智數產品發布會即將召開

美雲啟航 智數未來 美雲智數產品發布會 將於2017年3月3日在深圳蛇口希爾頓南海酒店盛大召開。本次發布會上,美雲智數將引領企業走入雲的世界,感受智造 採購 運營 營銷 移動等全價值鏈企業雲服務為企業帶來的巨大的機遇!當前,數位化轉型已成為企業應對挑戰的主要戰略。根據idc的報告,預計到2018年,...

有孚專有雲剪輯,助力廣電數智化

隨著雲計算 5g網路 新 的發展,廣電 行業在採 編 存 管 發各個環節,都迫切需要更專業化 智慧型化的 處理 管理平台,以提高內容生產力。有孚雲立足自主研發的物件儲存 高效能並行nas sd wan cdn 融合isv專業化剪輯軟體,打造了有孚專有的雲剪輯系統。1.計算能力擴充套件性差 2.儲存場...