大資料虛擬化零起點 1開篇

2021-09-04 17:44:44 字數 2013 閱讀 7566

大資料的虛擬化:企業it發展潮流

大資料的虛擬化是當前大資料以及hadoop社群的乙個發展趨勢。gartner在2023年6月舉行的hadoop summit大會上提到,為了讓hadoop等大資料技術真正落地企業,我們要從具體業務需求出發,驅動大資料相關技術和產品的進一步發展,逐漸告別之前技術驅動的創新。gartner同時指出,虛擬化是這個新階段的重要趨勢。隨著全球企業it虛擬化的比例突破三分之二,以虛擬化為基礎的軟體定義的資料中心對企業來講變得越來越普及和重要,大資料在這樣的浪潮下如何影響和融入現有企業資料中心的基礎架構變成了現實的挑戰。本部落格將圍繞這個話題,從運維、技術、和解決方案的角度給出具體內容。

到底什麼是大資料的虛擬化?

解答這個問題首先要回顧企業it為什麼要做虛擬化?我認為原因有以下幾點:

1. 虛擬化能夠顯著提公升伺服器的利用率,通過整合伺服器資源達到更佳的利用率。

2. 以x86伺服器為代表的虛擬化本身的擁有成本相對小型機和軟硬體一體裝置來講,更經濟;而且效能表現一點也不遜色,橫向擴充套件更是巨大優勢。

3. 虛擬化在雲計算(無論是公有雲還是私有雲)中承擔著很重要的基礎工作。沒有虛擬化技術,雲計算的彈性和多租戶往往難以得到真正落實。

4. 虛擬化已經可以支撐企業關鍵應用(如erp、郵件伺服器、業務生產資料庫等),這證明在虛擬化和效能穩定性之間已經不再需要二選一。此外,眾多成功案例和技術***也可以幫助更多客戶加強信心。虛擬化邁向全面成熟的標誌已經樹立。

顯然企業虛擬化的程序不會停止,目前包括vmware在內的領導廠商都在拓展虛擬化2.0。不僅是伺服器(計算資源)虛擬化,包括儲存和網路等過去相對難以直接被虛擬化所用的孤島都出現了最前沿的創新推動,例如「軟體定義資料中心」、「儲存虛擬化」、「網路虛擬化」等熱點,都已經出現了具體的產品和解決方案。

大資料的虛擬化,是將大資料的工作負載執行或遷移到虛擬化的基礎環境中。除了自然地繼承以上所談到的虛擬化的普遍優點,值得一提的還有幾個特殊的好處:

1. 由於大資料基礎架構在起步時往往難以確定需要多少計算和資料節點,這些節點用物理伺服器需要一一去堆。如果沒有專家團隊支援,將會非常耗時費力,而且將來擴充套件非常不方便,利用率極低,管理效率問題相當突出。虛擬化不僅可以快速部署集群,更可以靈活管理它們,同時顯著提高利用率。

2. 大資料混合使用共享儲存和本地儲存,用來提高效能。虛擬化可以完全滿足這些需求,並且讓我們靈活的擴充套件和設計策略。

3. 虛擬化可以將大資料從底層向上對外形成多租戶和資料分析服務,很好的隔離計算環境,為推動大資料即服務奠定基礎。

4. 虛擬化還有利於整合和整合其它的資料應用在統一的虛擬化平台上,大大降低it基礎架構的複雜度和運維成本。

我想以上不僅解釋了什麼是大資料的虛擬化,也說明了這個市場的存在價值。那麼我們還需要什麼?知識和技能。企業面臨的最大問題不是實在的需求,而是沒有專業的人才去發現和處理它;57%的企業認為他們急需掌握具體技術和知識的人才;同時,管理和安全也是一大挑戰,佔37%。這些數字都印證了虛擬化存在的必要性和價值。(資料來自微軟公司在hadoop summit 2013上的報告)

關於大資料的虛擬化這個嶄新的話題,我想市場上可能還沒有多少人可以了解具體如何實現它,需要使用什麼樣的技術和產品。因為不了解,便容易造成主觀臆斷,覺得大資料和虛擬化是矛盾的,甚至覺得將兩者結合在一起是「不靠譜」的。我將通過即將發布的一系列博文具體闡述如何實現虛擬化上的大資料,讓讀者知道這兩者的關係,幫助他們解開疑慮。所以,接下來的一系列部落格文章都屬於技術「乾貨」,將指導有興趣進一步了解和嘗試這個領域的讀者或企業進一步探索並動手親自嘗試使用。

如有任何問題,您可以發郵件至[email protected]

關於vsphere big data extensions:

作者簡介:

張君遲vmware大資料解決方案專案經理

目前負責vmware大資料解決方案的管理和市場工作。曾擔任vmware資料庫管理產品vfabricdata director產品經理,對虛擬化、雲計算、關係型資料庫和大資料等企業產品、技術方案和市場有深入的理解和實戰經驗。在此之前,就職於microsoft從事分布式系統的產品管理和研發工作。

零起點Visual C 程式設計推薦書目

零起點visual c net 程式設計推薦書目 本書目按學習難易程式排列 1.程式設計入門 完全的程式設計新手可以閱讀francis glassborow的 a beginners introduction to computer programming you can do it 這也是bjar...

零起點學VB做外掛程式(一)

最近正在玩武林外傳2,有時候太累手了,就用按鍵精靈做了個程式。結果武林外傳2居然查出來了,將號給封了一天。又不太敢down網上的外掛程式,誰知道那個有毒,那個有木馬。看來出路只有一條了,那就是寫自己的外掛程式。自打上學的時候就不喜歡vc,看著就煩,所以只能從vb下手了。以後有合適的軟體咱再用不遲。說...

零起點學演算法68 刪除字元

include include include int main printf n memset str,0,sizeof str getchar 不寫會出錯 return 0 這是乙個非常水的題,主要想講一下gets 讀取的換行符會被轉化成 0 來結束字串的讀入。但是gets之後,再次讀取乙個字元...