大型網際網路應用如何進行流量削峰,應對瞬間請求?

2021-07-25 21:23:41 字數 627 閱讀 9587

大型網際網路應用經常要處理流量高峰問題,這也是我所負責業務經常要面對的事情,比如遇到乙個熱點事件、策劃乙個活動或者push乙個頁面,訪問的驟增帶來讀寫流量的驟增,對應每個模組都面臨考驗,那麼有哪些方法可以做到流量削峰或者說流量削峰要從哪幾個方面考慮呢,說下我的總結:

1、系統基於微服務的架構設計,彈性擴充套件瓶頸模組伺服器資源;

2、接入層以及各微服務模組極大的用好cache,增加qps,從而加大整個集群的吞吐量;

3、必要的模組間使用訊息佇列通訊,進行模組非同步解耦,訪問量上來後,使用時間成本換取業務能夠正常服務;

4、各服務模組對自身負責的同時,要做好後端依賴有效呼叫的判斷,做到向上游模組所做的呼叫都是必要的呼叫,無冗餘或無效的呼叫;

5、劃分好動靜資源,靜態資源使用cdn進行服務分發。

補 充:

6、在可行的情況下,做好冷熱分離,對能標記區分出來的熱資源,單獨分配資源處理,以便不影響其他正常訪問請求的資源。

在資源有限的情況下,做好各模組的降級預案,再從這6個方面多做努力,高峰期服務集群的流量會做到及好提公升的。

本文出自 「奔跑的linux」 部落格,請務必保留此出處

網際網路架構,如何進行容量設計?

網際網路公司,這樣的場景是否似曾相識 場景一 pm要做乙個很大的運營活動,技術老大殺過來,問了兩個問題 1 機器能抗住麼?2 如果扛不住,需要加多少臺機器?場景二 系統設計階段,技術老大殺過來,又問了兩個問題 1 資料庫需要分庫麼?2 如果需要分庫,需要分幾個庫?技術上來說,這些都是系統容量預估的問...

大型網際網路架構概述

一 dns 1 當使用者在 瀏覽器中輸入 位址 後,瀏覽器會檢查 瀏覽器快取 中是否存在對應 網域名稱的解析結果 如果有,則解析過程結束 否則進入下乙個步驟 2 瀏覽器查詢 作業系統快取 中是否存在這個 網域名稱的解析結果 這個快取的內容 就是作業系統的 hosts檔案 如果有,則解析過程結束 否則...

移動網際網路如何獲取精準流量

這個案例的最起源,是因為秦剛日記裡的一句話 pc時代,做 是寫給看的,移動網際網路時代,是寫給使用者看的。這句話讓我思維一下就開啟了。回想起兼職做 這5年來,每時每刻都在想百程式設計客棧度要什麼,很少想使用者想看什麼。今天我到浙江湖州一家產值過億的企業做5s管理專案調研,這家公司為什麼找到我?因為我...