大資料與雲計算概論3

2021-10-12 08:02:25 字數 2513 閱讀 3588

大資料與雲計算概論3

簡介#近年來,計算機硬體與軟體的效能比以往有了極大的發展與進步,計算機硬體的發展為人們提供了極其強大的計算能力和及其豐富的計算資源,如不加以有效利用將會造成資源浪費,同時,隨著隨著計算機軟體的發展,使用者使用計算機的場合越來越多,這又導致使用者對計算機的更需求與要求越來越多,網路安全,資料災備,系統移植,系統公升級,軟硬體成本等,而虛擬化技術的出現與應用,為使用者提供了解決這些問題的完美方案。

一、虛擬化技術

1.簡介

他能夠幫助使用者減少成本,同時提高軟硬體開發效率,為使用者提供更多便利,尤其近年來虛擬化技術在雲計算與大資料方向應用更加廣泛。

2.概念

虛擬化技術與多工以及超執行緒技術是完全不同的。多工是指在乙個作業系統中多個程式同時一起執行,虛擬化而在虛擬化技術中,則可以同時執行多個作業系統,而且每乙個作業系統中都有多個程式執行,每乙個作業系統都執行在乙個虛擬的cpu或者是虛擬主機上;而超執行緒技術只是單cpu模擬雙cpu來平衡程式執行效能,這兩個模擬出來的cpu是不能分離的,只能協同工作。虛擬化技術也與vmware workstation等同樣能達到虛擬效果的軟體不同,是乙個巨大的技術進步,具體表現在減少軟體虛擬機器相關開銷和支援更廣泛的作業系統方面。

二、虛擬化技術的分類

現代計算機系統是乙個龐大的整體,整個系統的複雜性是不言而喻的。因而,整個計算機系統被分成了多個自下而上的層次,每乙個層次都向上一層次呈現乙個抽象,並且每一層只需知道下層抽象的介面,而不需要了解其內部運作機制。這樣以層的方式抽象資源的好處是每一層只需要考慮本層設計以及與相鄰層間的相互互動,從而大大降低了系統設計的複雜性,提高了軟體的移植性。

本質上,虛擬化就是由位於下層的軟體模組,通過向上一層軟體模組提供乙個與它原先所期待的執行環境完全一致的介面的方法,抽象出乙個虛擬的軟體或硬體介面,使得上層軟體可以直接執行在虛擬的環境上。虛擬化可以發生在現代計算機系統的各個層次上,不同層次的虛擬化會帶來不同的虛擬化概念。

如前文所述,虛擬化技術起源於上世紀70年代的ibm370體系,經過四十餘年的發展,當前存在諸多實現在不同層次的虛擬化技術,原理不盡相同,且每一種技術都相當複雜。在本文中,將通過不同的角度對目前存在的較流行的虛擬化技術進行分類,並對其原理進行初步介紹,旨在對紛繁複雜的虛擬化技術有個整體認識及釐清不同虛擬化技術之間的相互關係。

1.網路虛擬化:

早期的"網路虛擬化",是指虛擬專用網路 (vpn)。vpn 對網路連線的概念進行了抽象,允許遠端使用者訪問組織的內部網路,就像物理上連線到該網路一樣。網路虛擬化可以幫助保護it環境,防止來自internet 的威脅,同時使使用者能夠快速安全的訪問應用程式和資料。   隨後的網路虛擬化技術隨著資料中心業務要求發展為:多種應用承載在一張物理網路上,通過網路虛擬化分割(稱為縱向分割)功能使得不同企業機構相互隔離,但可在同一網路上訪問自身應用,從而實現了將物理網路進行邏輯縱向分割虛擬化為多個網路。   如果把乙個企業網路分隔成多個不同的子網路――它們使用不同的規則和控制,使用者就可以充分利用基礎網路的虛擬化功能,而不是部署多套網路來實現這種隔離機制。   網路虛擬化並不是什麼新概念,因為多年來,虛擬區域網(vlan)技術作為基本隔離技術已經廣泛應用。當前在交換網路上通過vlan來區分不同業務網段、配合防火牆等安全產品劃分安全區域,是資料中心基本設計內容之一。 

2.儲存虛擬化

所謂虛擬儲存,就是把多個儲存介質模組(如硬碟、raid)通過一定的手段集中管理起來,所有的儲存模組在乙個儲存池中得到統一管理,從主機和工作站的角度,看到就不是多個硬碟,而是乙個分割槽或者卷,就好象是乙個超大容量的硬碟。這種可以將多種、多個儲存裝置統一管理起來,為使用者提供大容量、高資料傳輸效能的儲存系統,就稱之為虛擬儲存。 

3.伺服器虛擬化

今天的虛擬化可以用來進行伺服器、儲存、網路、桌面應用程式的整合,提高系統資源利用率,提高管理靈活性,節省伺服器空間和電耗成本。虛擬化是雲計算的基礎,沒有虛擬化就沒有雲計算。虛擬化是一種方法,本質上講是指從邏輯角度而不是物理角度來對資源進行配置,是從單一的邏輯角度來看待不同的物理資源的方法。虛擬化是一種邏輯角度出發的資源配置技術,是物理實際的邏輯抽象。對於使用者,虛擬化技術實現了軟體跟硬體分離,使用者不需要考慮後台的具體硬體實現,而只需在虛擬層環境上執行自己的系統和軟體。而這些系統和軟體在執行時,也似乎跟後台的物理平台無關。和傳統it資源分配的應用方式相比,虛擬化有以下優勢:虛擬化技術可以大大提高資源的利用率;提供相互隔離、安全、高效的應用執行環境;虛擬化系統能夠方便地管理和公升級資源。虛擬化技術帶來了如此多的優勢與好處,下面就介紹現有的較成熟的各類虛擬化技術。一、伺服器虛擬化伺服器虛擬化能夠通過區分資源的優先次序,並隨時隨地能將伺服器資源分配給最需要它們的工作負載來簡化管理和提高效率,從而減少為單個工作負載峰值而儲備的資源。通過伺服器虛擬化技術,使用者可以動態啟用虛擬伺服器(又叫虛擬機器),每個伺服器實際上可以讓作業系統(以及在上面執行的任何應用程式)誤以為虛擬機器就是實際硬體。執行多個虛擬機器還可以充分發揮物理伺服器的計算潛能,迅速應對資料中心不斷變化的需求。目前常用的伺服器主要分為unix伺服器和x86伺服器,對unix伺服器而言,ibm、hp、sun各有自己的技術標準,沒有統一的虛擬化技術;因此,目前unix的虛擬化還受具體產品平台的制約,不過unix伺服器虛擬化通常會用到硬體分割槽技術。

雲計算與大資料概論(二)

七 雲計算產品3 ibm藍雲解決方案 ibm 是商業資料計算的龍頭和傳統超級計算機的絕對領導者。在雲計算方面,ibm是一家從硬體 軟體 和服務提供全方位的支援的廠家。ibm把雲計算視為一張重要的戰略,ibm已在全球範圍內建立了13個雲計算中心,擁有很多成功的案例,並且在中國幫助眾多客戶成功部署了雲計...

雲計算與大資料概論第七周

大資料分析是指對規模巨大的資料進行分析。大資料可以概括為5個v,資料量大 volume 速度快 velocity 型別多 variety 價值 value 真實性 veracity 大資料作為時下最火熱的it行業的詞彙,隨之而來的資料倉儲 資料安全 資料分析 資料探勘等等圍繞大資料的商業價值的利用逐...

大資料與雲計算

近幾年來,雲計算受到學術界和工業界的熱捧,隨後,大資料橫空出世,更是炙手可熱。那麼,大資料和雲計算之間是什麼關係呢?從整體上看,大資料與雲計算是相輔相成的 大資料著眼於 資料 關注實際業務,提供資料採集分析挖掘,看重的是資訊積澱,即資料儲存能力。雲計算著眼於 計算 關注it解決方案,提供it 基礎架...