分布式系統概述

2022-10-10 20:06:13 字數 732 閱讀 5191

注:由於大資料技術領域的各類技術框架基本上都是分布式系統,因此,理解hadoop、

storm

、spark

等技術框架,都需要具備基本的分布式系統概念

² 該軟體系統會劃分成多個子系統或模組,各自執行在不同的機器上,子系統或模組之間通過網路通訊進行協作,實現最終的整體功能

² 比如分布式作業系統、分布式程式語言及其編譯(解釋

)系統、分布式檔案系統和分布式資料庫系統等。

a. 乙個solrcloud集群通常有多台

solr

伺服器b. 每乙個solr伺服器節點負責儲存整個索引庫的若干個

shard

(資料分片)

c. 每乙個shard又有多台伺服器存放若干個副本互為主備用

d. 索引的建立和查詢會在整個集群的各個節點上併發執行

e. solrcloud集群作為整體對外服務,而其內部細節可對客戶端透明

總結:利用多個節點共同協作完成一項或多項具體業務功能的系統就是分布式系統。

需求:可以實現由主節點將運算任務發往從節點,並將各從節點上的任務啟動;

程式清單:

task

程式執行邏輯流程:

分布式系統概述

2分布式系統概述注 由於大資料技術領域的各類技術框架基本上都是分布式系統,因此,理解hadoop storm spark 等技術框架,都需要具備基本的分布式系統概念 該軟體系統會劃分成多個子系統或模組,各自執行在不同的機器上,子系統或模組之間通過網路通訊進行協作,實現最終的整體功能 比如分布式作業系...

分布式系統概述

2分布式系統概述 注 由於大資料技術領域的各類技術框架基本上都是分布式系統,因此,理解hadoop storm spark 等技術框架,都需要具備基本的分布式系統概念 該軟體系統會劃分成多個子系統或模組,各自執行在不同的機器上,子系統或模組之間通過網路通訊進行協作,實現最終的整體功能 比如分布式作業...

分布式系統 概述

分布式儲存系統是大量普通pc伺服器通過internet互聯,對外作為乙個整體提供儲存服務。特性 可拓展 低成本 高效能 易用。挑戰 資料 狀態資訊持久化 資料一致性。涉及到的技術 資料分布 一致性 容錯 負載均衡 事務與併發控制 易用性 壓縮 解壓縮。資料型別 非結構化資料 結構化資料 半結構化資料...