內部體驗騰訊負載均衡的新功能

2021-07-27 16:43:41 字數 549 閱讀 5116

吳逸翔 

也就是說,雖然生成一台伺服器我們可以優化到數十秒,但是新伺服器加入集群後的前面幾分鐘幾乎沒有請求分發到新伺服器上,隨後才步入正軌。這樣顯然延長了壓力緩解過程,讓更多使用者忍受了幾分鐘的惡劣體驗。

可以看到,最開始和橫軸重合的一段消失了,新伺服器在接入的第一時間立刻分攤到了訪問量並輸出流量,集群中過載的伺服器壓力也就立刻得到了緩解。

不只是擴容過程會從新演算法中收益,實際上在以往的演算法中,集群中的伺服器都難以即時分擔彼此的壓力,當某一台或者幾台伺服器壓力過大的時候,lb只會繼續按照權重隨機的分配新的請求給它,而不是降低它的權重,讓它緩一緩。而在新演算法中,如果一台伺服器負擔壓力過重導致請求無法及時響應完成,lb就會觀察到它的連線數增加,並把更多的請求分配給連線數更少的伺服器,從而達到更優的負載均衡效果。

當然,要充分獲得這些優勢都要取決於接入伺服器已經實現了『無狀態化』這個前提,否則負載均衡也無法隨意的把一台伺服器的壓力轉移到另一台上面。

分享至 

內部體驗騰訊負載均衡的新功能

也就是說,雖然生成一台伺服器我們可以優化到數十秒,但是新伺服器加入集群後的前面幾分鐘幾乎沒有請求分發到新伺服器上,隨後才步入正軌。這樣顯然延長了壓力緩解過程,讓更多使用者忍受了幾分鐘的惡劣體驗。可以看到,最開始和橫軸重合的一段消失了,新伺服器在接入的第一時間立刻分攤到了訪問量並輸出流量,集群中過載的...

負載均衡SLB新功能介紹

摘要 隨著網路的各個核心部分業務量的提高,訪問量和資料流量的快速增長,其處理能力和計算強度也相應地增大,使得單一的伺服器裝置根本無法承擔。通過負載均衡擴充套件現有網路裝置和伺服器的頻寬 增加吞吐量 加強網路資料處理能力 提高網路的靈活性和可用性。本文阿里雲負載均衡產品經理天翼對負載均衡slb新功能進...

新功能 阿里雲負載均衡支援HTTP 2 WSS協議

摘要 很高興的告訴大家,阿里雲負載均衡在歐洲中部 法蘭克福 與亞太東南3 吉隆坡 地域支援http 2 wss web socket secure 協議。1 http 2協議支援 什麼是http 2 http2是超文字傳輸協議的第二版,hypertext transfer protocol vers...