吞吐量 併發量

2021-10-08 13:52:17 字數 1344 閱讀 6614

併發數、吞吐量的概念最初用來衡量網路裝置的效能,後來推廣到伺服器及業務上評估系統的整體效能。

一、網路裝置的併發數、吞吐量

併發數(concurrency)

也叫併發連線數,指網路裝置所能處理的最大會話數量。這裡的會話數是指請求->響應一次會話。

吞吐量(throughput):

使用者請求是由乙個個資料報組成,網路裝置(防火牆/路由器/交換機)對每個資料報的處理要耗費資源。吞吐量是指在不丟包的情況下單位時間內通過網路裝置的資料報數量。

網路層面併發數和吞吐量的關係:

併發數x包長度=吞吐量

參考:吞吐與併發關係

可以看出,在網路層面考察吞吐量,除了併發數,還要考慮請求包的大小(長度)。用於度量網路裝置時候,可以用byte/秒。

二、伺服器及業務上的併發數、吞吐量

用於指**效能/伺服器效能時候:

併發數:系統同時處理的請求數(分為查詢類請求數、事務類請求數)。

吞吐量:系統在單位時間內處理請求的數量。只不過是乙個很寬泛的術語,大家經常指的吞吐量的單位可能是:tps/qps、頁面數/秒、人數/天、處理業務數/小時等等。

幾個相關的概念:tps、qps、rps

tps:transactions per second(每秒事務處理數),指伺服器每秒處理的事務次數。一般用於評估資料庫、交易系統的基準效能。

qps:queries per second(查詢量/秒),是伺服器每秒能夠處理的查詢次數,例如網域名稱伺服器、mysql查詢效能。

rps:request per second(請求數/秒)

rps(request per second)和qps可以認為是一回事。

rt:response time(響應時間):客戶端發乙個請求開始計時,到客戶端接收到從伺服器端返回的響應結果結束所經歷的時間,響應時間由請求傳送時間、網路傳輸時間和伺服器處理時間三部分組成。也叫think time。

併發數與tps/qps的關係:

qps(tps)= 併發數/平均響應時間

這裡的併發數如果為事務處理請求數,則為tps,如果為查詢請求數,則為qps。

參考:

回到題主的問題:併發數高,吞吐量是否必然高?

個人覺得不一定。

如果談的是網路裝置,參照:併發數x包長度=吞吐量,吞吐量依賴於併發數和包長度。

如果談的是伺服器及完整整體效能,需要明確吞吐量的度量指標,假定以吞吐量以qps作為度量指標,如果併發數高,但平均響應時間上不去,則qps並不一定高。

系統吞吐量(TPS) 使用者併發量

一 系統吞度量要素 乙個系統的吞度量 承壓能力 與request對cpu的消耗 外部介面 io等等緊密關聯。單個reqeust 對cpu消耗越高,外部系統介面 io影響速度越慢,系統吞吐能力越低,反之越高。系統吞吐量幾個重要引數 qps tps 併發數 響應時間 qps tps 每秒鐘request...

QPS,TPS,併發量,系統吞吐量的概念

我們在日常工作中經常會聽到qps tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量。或者每秒鐘最大能處理的請求數 qps 每秒鐘處理完請求的次數 注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在s...

QPS TPS 併發量 系統吞吐量的概念

我們在日常工作中經常會聽到qps tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量。或者每秒鐘最大能處理的請求數 qps 每秒鐘處理完請求的次數 注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在s...