高併發解決方案

2022-09-02 14:54:11 字數 4590 閱讀 7260

秒殺場景一般會在電商**舉行一些活動或者節假日在12306**上搶票時遇到。對於電商**中一些稀缺或者**商品,電商**一般會在約定時間點對其進行限量銷售,因為這些商品的特殊性,會吸引大量使用者前來搶購,並且會在約定的時間點同時在秒殺頁面進行搶購。

限流:鑑於只有少部分使用者能夠秒殺成功,所以要限制大部分流量,只允許少部分流量進入服務後端。

削峰:對於秒殺系統瞬時會有大量使用者湧入,所以在搶購一開始會有很高的瞬間峰值。高峰值流量是壓垮系統很重要的原因,所以如何把瞬間的高流量變成一段時間平穩的流量也是設計秒殺系統很重要的思路。實現削峰的常用的方法有利用快取和訊息中介軟體等技術。

非同步處理:秒殺系統是乙個高併發系統,採用非同步處理模式可以極大地提高系統併發量,其實非同步處理就是削峰的一種實現方式。

記憶體快取:秒殺系統最大的瓶頸一般都是資料庫讀寫,由於資料庫讀寫屬於磁碟io,效能很低,如果能夠把部分資料或業務邏輯轉移到記憶體快取,效率會有極大地提公升。

可拓展:當然如果我們想支援更多使用者,更大的併發,最好就將系統設計成彈性可拓展的,如果流量來了,拓展機器就好了。像**、京東等雙十一活動時會增加大量機器應對交易高峰。

將請求攔截在系統上游,降低下游壓力:秒殺系統特點是併發量極大,但實際秒殺成功的請求數量卻很少,所以如果不在前端攔截很可能造成資料庫讀寫鎖衝突,甚至導致死鎖,最終請求超時。 

充分利用快取:利用快取可極大提高系統讀寫速度。 

訊息佇列:訊息佇列可以削峰,將攔截大量併發請求,這也是乙個非同步處理過程,後台業務根據自己的處理能力,從訊息佇列中主動的拉取請求訊息進行業務處理。

瀏覽器端(js):

頁面靜態化:將活動頁面上的所有可以靜態的元素全部靜態化,並儘量減少動態元素。通過cdn來抗峰值。 

禁止重複提交:使用者提交之後按鈕置灰,禁止重複提交 

使用者限流:在某一時間段內只允許使用者提交一次請求,比如可以採取ip限流

服務端控制器層(閘道器層)

限制uid(userid)訪問頻率:我們上面攔截了瀏覽器訪問的請求,但針對某些惡意攻擊或其它外掛程式,在服務端控制層需要針對同乙個訪問uid,限制訪問頻率。

服務層上面只攔截了一部分訪問請求,當秒殺的使用者量很大時,即使每個使用者只有乙個請求,到服務層的請求數量還是很大。比如我們有100w使用者同時搶100臺手機,服務層併發請求壓力至少為100w。

採用訊息佇列快取請求:既然服務層知道庫存只有100臺手機,那完全沒有必要把100w個請求都傳遞到資料庫啊,那麼可以先把這些請求都寫到訊息佇列快取一下,資料庫層訂閱訊息減庫存,減庫存成功的請求返回秒殺成功,失敗的返回秒殺結束。

利用快取應對讀請求:對類似於12306等購票業務,是典型的讀多寫少業務,大部分請求是查詢請求,所以可以利用快取分擔資料庫壓力。

利用快取應對寫請求:快取也是可以應對寫請求的,比如我們就可以把資料庫中的庫存資料轉移到redis快取中,所有減庫存操作都在redis中進行,然後再通過後台程序把redis中的使用者秒殺請求同步到資料庫中。

資料庫層是最脆弱的一層,一般在應用設計時在上游就需要把請求攔截掉,資料庫層只承擔「能力範圍內」的訪問請求。所以,上面通過在服務層引入佇列和快取,讓最底層的資料庫高枕無憂。

redis是乙個分布式快取系統,支援多種資料結構,我們可以利用redis輕鬆實現乙個強大的秒殺系統。

我們可以採用redis 最簡單的key-value資料結構,用乙個原子型別的變數值(atomicinteger)作為key,把使用者id作為value,庫存數量便是原子變數的最大值。對於每個使用者的秒殺,我們使用rpush key value插入秒殺請求, 當插入的秒殺請求數達到上限時,停止所有後續插入。

然後我們可以在臺啟動多個工作執行緒,使用lpop key讀取秒殺成功者的使用者id,然後再運算元據庫做最終的下訂單減庫存操作。

當然,上面redis也可以替換成訊息中介軟體如activemqrabbitmq等,也可以將快取和訊息中介軟體 組合起來,快取系統負責接收記錄使用者請求,訊息中介軟體負責將快取中的請求同步到資料庫。

出處:秒殺場景一般會在電商**舉行一些活動或者節假日在12306**上搶票時遇到。對於電商**中一些稀缺或者**商品,電商**一般會在約定時間點對其進行限量銷售,因為這些商品的特殊性,會吸引大量使用者前來搶購,並且會在約定的時間點同時在秒殺頁面進行搶購。

限流:鑑於只有少部分使用者能夠秒殺成功,所以要限制大部分流量,只允許少部分流量進入服務後端。

削峰:對於秒殺系統瞬時會有大量使用者湧入,所以在搶購一開始會有很高的瞬間峰值。高峰值流量是壓垮系統很重要的原因,所以如何把瞬間的高流量變成一段時間平穩的流量也是設計秒殺系統很重要的思路。實現削峰的常用的方法有利用快取和訊息中介軟體等技術。

非同步處理:秒殺系統是乙個高併發系統,採用非同步處理模式可以極大地提高系統併發量,其實非同步處理就是削峰的一種實現方式。

記憶體快取:秒殺系統最大的瓶頸一般都是資料庫讀寫,由於資料庫讀寫屬於磁碟io,效能很低,如果能夠把部分資料或業務邏輯轉移到記憶體快取,效率會有極大地提公升。

可拓展:當然如果我們想支援更多使用者,更大的併發,最好就將系統設計成彈性可拓展的,如果流量來了,拓展機器就好了。像**、京東等雙十一活動時會增加大量機器應對交易高峰。

將請求攔截在系統上游,降低下游壓力:秒殺系統特點是併發量極大,但實際秒殺成功的請求數量卻很少,所以如果不在前端攔截很可能造成資料庫讀寫鎖衝突,甚至導致死鎖,最終請求超時。 

充分利用快取:利用快取可極大提高系統讀寫速度。 

訊息佇列:訊息佇列可以削峰,將攔截大量併發請求,這也是乙個非同步處理過程,後台業務根據自己的處理能力,從訊息佇列中主動的拉取請求訊息進行業務處理。

瀏覽器端(js):

頁面靜態化:將活動頁面上的所有可以靜態的元素全部靜態化,並儘量減少動態元素。通過cdn來抗峰值。 

禁止重複提交:使用者提交之後按鈕置灰,禁止重複提交 

使用者限流:在某一時間段內只允許使用者提交一次請求,比如可以採取ip限流

服務端控制器層(閘道器層)

限制uid(userid)訪問頻率:我們上面攔截了瀏覽器訪問的請求,但針對某些惡意攻擊或其它外掛程式,在服務端控制層需要針對同乙個訪問uid,限制訪問頻率。

服務層上面只攔截了一部分訪問請求,當秒殺的使用者量很大時,即使每個使用者只有乙個請求,到服務層的請求數量還是很大。比如我們有100w使用者同時搶100臺手機,服務層併發請求壓力至少為100w。

採用訊息佇列快取請求:既然服務層知道庫存只有100臺手機,那完全沒有必要把100w個請求都傳遞到資料庫啊,那麼可以先把這些請求都寫到訊息佇列快取一下,資料庫層訂閱訊息減庫存,減庫存成功的請求返回秒殺成功,失敗的返回秒殺結束。

利用快取應對讀請求:對類似於12306等購票業務,是典型的讀多寫少業務,大部分請求是查詢請求,所以可以利用快取分擔資料庫壓力。

利用快取應對寫請求:快取也是可以應對寫請求的,比如我們就可以把資料庫中的庫存資料轉移到redis快取中,所有減庫存操作都在redis中進行,然後再通過後台程序把redis中的使用者秒殺請求同步到資料庫中。

資料庫層是最脆弱的一層,一般在應用設計時在上游就需要把請求攔截掉,資料庫層只承擔「能力範圍內」的訪問請求。所以,上面通過在服務層引入佇列和快取,讓最底層的資料庫高枕無憂。

redis是乙個分布式快取系統,支援多種資料結構,我們可以利用redis輕鬆實現乙個強大的秒殺系統。

我們可以採用redis 最簡單的key-value資料結構,用乙個原子型別的變數值(atomicinteger)作為key,把使用者id作為value,庫存數量便是原子變數的最大值。對於每個使用者的秒殺,我們使用rpush key value插入秒殺請求, 當插入的秒殺請求數達到上限時,停止所有後續插入。

然後我們可以在臺啟動多個工作執行緒,使用lpop key讀取秒殺成功者的使用者id,然後再運算元據庫做最終的下訂單減庫存操作。

當然,上面redis也可以替換成訊息中介軟體如activemqrabbitmq等,也可以將快取和訊息中介軟體 組合起來,快取系統負責接收記錄使用者請求,訊息中介軟體負責將快取中的請求同步到資料庫。

高併發解決方案

時常看到高併發的問題,但高併發其實是最不需要考慮的東西。為何,他虛無縹緲,很少有 真的需要這些東西,而且其中很多技術,其實你已經在用了。有這個意識就夠了,不需要時刻盯著這個問題。只有很少的 真的能達到高併發。簡單做乙個歸納,從低成本 高效能和高擴張性的角度來說有如下處理方案 1 html靜態化 2 ...

高併發解決方案

將靜態資源分離到靜態站,對靜態資源的請求打到靜態站,增加動態站的請求處理量 頁面靜態化是將程式生成的頁面儲存起來,使用模板技術如freemarker和velocity生成靜態頁面 nginx快取頁面資訊,再次請求時直接從快取中獲取,不需要重新生成,頁面快取記憶體中,提高訪問速度 具有相同處理功能的伺...

高併發解決方案2

大型 在面對大量使用者訪問 高併發請求方面,基本的解決方案集中在這樣幾個環節 使用高效能的伺服器 高效能的資料庫 高效率的程式語言 還有高效能的web容器。但是除了這幾個方面,還沒法根本解決大型 面臨的高負載和高併發問題。1 html靜態 對於互動性要求很高的社群型別 來說,盡可能的靜態化也是提高效...