高併發與高可用

2021-08-21 04:33:22 字數 558 閱讀 5137

事發事中

事後高併發

增加處理人手

事前:副本、隔離、配額、提前預案、探知

事發:監控、報警

事中:降級、回滾、應急預案,fail***系列

事後:覆盤、思考、技改

fail***系列

當出現下游呼叫失敗時,我們一般有幾種處理方式:

failretry,即失敗重試,需要配合退避時間,否則馬上重試不一定會有效果。

failover,即所謂的故障轉移。比如呼叫下游a介面失敗,那麼rpc的負載均衡器將會呼叫a介面提供方的其他機器進行重試;在比如資料庫x掛了,應用自適應容災將對x庫的呼叫切換到y庫呼叫,此y庫即可以是faillover庫(流水型業務),也可以備庫(狀態型業務)。

failsafe,即靜默,一般下游鏈路是弱依賴的時候,可以採用failsafe,即可和failover相結合,比如failover了3次還是失敗,那麼執行failsafe。

failfast,立即報錯,failfast主要讓工程師快速的感知問題所在,並及時進行人工干預。

failback,延遲補償(回血),一般可以採用訊息佇列或定時掃瞄等。

高併發 高可用

高併發 提高系統併發能力的方法主要有兩種 前者垂直擴充套件可以通過提公升單機硬體效能,或者提公升單機架構效能,來提高併發性,但單機效能總是有極限的,網際網路分布式架構設計高併發終極解決方案還是後者 水平擴充套件。網際網路分層架構中,各層次水平擴充套件的實踐又有所不同 1 反向 層可以通過 dns輪詢...

Twitter 高併發高可用架構

解決 twitter的 問題 就像玩玩具一樣,這是乙個很有趣的擴充套件性比喻。每個人都覺得 twitter很簡單,乙個菜鳥架構師隨便擺弄一下個可伸縮的 twitter就有了,就這麼簡單。然而事實不是這樣,twitter的工程副總裁 raffi krikorian細緻深入的描述了在 twitter在可...

高可用,高併發,高效能

高併發 是網際網路分布式系統架構設計中必須考慮的因素之一,它通常是指,通過設計保證系統能夠同時並行處理很多請求。高併發相關常用的一些指標有響應時間 response time 吞吐量 throughput 每秒查詢率qps query per second 併發使用者數等。吞吐量 單位時間內處理的請...