等效關係反映了為了維持並行效率不變，增加處理器與增大問題規模這兩個影響並行效率的因素間的關係
在問題的某個並行實現下，記t(n
,p
)t(n,p)
t(n,p)
為使用k個處理器計算規模為n的問題所需時間，t0(
n,p)
t_0(n,p)
t0(n,
p)為使用k個處理器計算規模為n的問題花在通訊和冗餘計算上的時間，問題的等效關係如下：
t (n
,1)≥
ct0(
n,p)
t(n,1)\ge ct_0(n,p)
t(n,1)
≥ct0
(n,
p)其中c =e
/(1−
e)
c=e/(1-e)
c=e/(1
−e)，e
ee為並行效率。由於此後的計算關心的主要是函式的量級，不等式中不需要代入e
ee實際計算中，記原序列演算法（也就是原本使用的baseline）的時間複雜度為g(n
)g(n)
g(n)
，通訊時間複雜度為h(n
,p
)h(n,p)
h(n,p)
，可以簡化為
g (n
)≥ch
(n,p
)g(n)\ge ch(n,p)
g(n)≥c
h(n,
p)其中，g和h可以直接用複雜度量級來替換，最高複雜度項的次數可以直接併入c
化簡該不等式得到
n ≥f
(p
)n\ge f(p)
n≥f(p)
此即並行系統的等加速比關係
對於規模為n的問題，記m(n
)m(n)
m(n)
為問題所需的記憶體，則該問題的並行實現的可拓展性函式為
m (f
(p))
/p
m(f(p))/p
m(f(p)
)/p該函式表示，為了保持效率不變，每個處理器所需的記憶體容量如何作為p的函式增加
具有較高量級可拓展性函式的並行實現，其記憶體增加速度更快，將更早抵達機器的實際記憶體，從而可拓展性較差；反之則較好
平行計算與分布式計算
主要內容來自維基百科 分布式系統是聯網計算機組，其工作目標相同。術語 併發計算 平行計算 和 分布式計算 有很多重疊，它們之間沒有明顯的區別。15 同一系統可以表徵為 並行 和 分布式 典型分布式系統中的處理器並行執行。16 平行計算可以被看作分布式計算的乙個特定的緊密耦合的形式，17 和分布式計算...
並行與分布式計算導論（一）衡量並行程式好壞的指標
寫給p大學子 由於授課英語太塑料了，我的學術英語也太差了，並分導的課堂上我總是處於游離邊緣。因此我特別在學習之餘總結了並分導授課的主要內容 內容來自ppt和教材的閱讀 以供後人使用。閱讀本系列你將獲得 特別說明，由於lecture1除了speedup怎麼算什麼solid的東西都沒有，在這裡就不著重寫...
並行與分布式計算導論（四）問題的結構與分解
工作的分配 新的一輪mpi作業已經發布，我盡量在ddl之前給同學們把mpi部分也更新出來！魚生苦短，爭取更鹹！儘管foster的設計原則倡導我們要進行四個設計步驟，但實際上openmp程式設計中往往先考慮的是問題的分解和分配問題。分解就是決定哪一部分和哪一部分應該分開，哪一部分先執行哪一部分後執行，...