簡易RPC框架 熔斷降級機制

2021-09-07 16:05:53 字數 4024 閱讀 7358

為什麼在rpc環節中有熔斷以及降級的需求,詳細的原因這裡不多解釋,從網上搜尋一張圖做示意。

我理解熔段主要解決如下幾個問題:

比如產品詳細頁獲取產品的好評總數時,由於後端服務異常導致客戶端每次都需要等到超時。如果短時間內服務不能恢復,那麼這段時間內的所有請求時間都將是最大的超時時間,這類消費時間又得不到正確結果的現象是不能容忍的。所以遇到這類情況,就需要根據一定的演算法判定服務短時間不可用,將後面的請求進行快速失敗處理,這樣可以節省服務等待時間。

同時,後端服務是有可能自主或者人為在一定時間內恢復的,所以之前被判定為快速失敗的服務,需要有能力去試探服務是否已經恢復。

上面提到的快速失敗以及自主恢復現象就是熔斷

降級是指自己的待遇下降了,從rpc呼叫環節來講,就是去訪問乙個本地的偽裝者而不是真實的服務,但這對呼叫端來說是沒有區別的。拿電商展示某個產品的詳細頁來說:

當載入產品庫存,由於庫存服務不可用,此時可以固定顯示乙個庫存數

一種最簡單的辦法就是借用hystrix來實現。

由於示例未採用註解式方案,所以只需要引用下面兩個包即可。

com.netflix.hystrix

hystrix-core

$com.netflix.hystrix

hystrix-metrics-event-stream

$

hystrix遵循命令模式,這裡可以往這個標準的uml圖上去套。

建立乙個新的類,rpchystrixcommand,繼承自hystrixcommand即可。

我這裡採用執行緒隔離方式。

由於需要遠端呼叫,所以建構函式需要接收遠端呼叫所需求必要引數

/**

* 遠端目標方法

*/private method method;

/** * 遠端目標介面

*/private object obj;

/** * 遠端方法所需要的引數

*/private object params;

/** * 遠端介面客戶端引用註解

*/private rpcreference rpcreference;

/** * rpc客戶端配置

*/private referenceconfig referenceconfig;

建構函式方法簽名:

public rpchystrixcommand(object obj, method method, object params, rpcreference rpcreference, referenceconfig referenceconfig)
這裡只是乙個示例,所以引數設定比較隨意,詳細的可參考文件。

super(setter.withgroupkey(hystrixcommandgroupkey.factory.askey("circuitbreakerrpchystrixcommandgroup"))

.andcommandkey(hystrixcommandkey.factory.askey("circuitbreakerrpchystrixcommandkey"))

.andcommandpropertiesdefaults(

hystrixcommandproperties.setter()

.withcircuitbreakerenabled(true)

.withcircuitbreakerrequestvolumethreshold(1)

.withcircuitbreakererrorthresholdpercentage(50)

.withcircuitbreakersleepwindowinmilliseconds(5*1000)

.withmetricsrollingstatisticalwindowinmilliseconds(10*1000)

).andthreadpoolkey(hystrixthreadpoolkey.factory.askey("circuitbreakerrpchystrixcommandpool"))

.andthreadpoolpropertiesdefaults(

hystrixthreadpoolproperties.setter().withcoresize(100)));

run()函式就是正常呼叫時所需要執行的方法,將呼叫遠端通訊的邏輯遷移到此,由於此處不涉及今天講的熔斷降級,所以不用關心裡面的**。

@override

protected object run()

在之前的註解中增加乙個屬性,用來配置服務偽裝者所屬的類物件

public @inte***ce rpcreference
當快速失敗時,我們希望返回一些預先準備好的值給到客戶端,實現這個需求就需要實現這個fallback函式。

偽裝者的邏輯由於是客戶端控制,所以我們通過引數來動態支援。 通過rpcreference註解可以獲取配置的偽裝者

protected object getfallback()  catch (illegalacces***ception e)  catch (invocationtargetexception e) }}

throw new rpcexception("service fallback unimplement");

}

**的invoke方法,將改呼叫命令模式的execute方法來代替。

@override

public object invoke(object proxy, method method, object args) throws throwable

dubbo有乙個mock機制,功能有些弱,有興趣可以自行研究。我這裡更加傾向於根據邏輯來判斷是否使用熔斷降級,降級的邏輯需要有更多的支援。

spring cloud的熔斷降級的做法與我的類似,它是通過註解在介面上

@feignclient(value = "jim-cloud-provider-server",fallback = productservicehystrix.class)

public inte***ce productservice

定義偽裝者介面,約定成員方法的簽名與真身相同。

public inte***ce productcommentmockservice
實現偽裝者介面,這裡不光是簡單的固定資料,可心任意編寫偽裝者業務邏輯,與普通的service bean 沒有區別。

@service

public class productcommentmockserviceimpl implements productcommentmockservice

}

在引用遠端服務介面的註解上,配置偽裝者介面的類即可。

@rpcreference(

maxexecutescount = 1,

fallbackserviceclazz = productcommentmockservice.class

)private productservice productservice;

故意不啟動服務端,請求介面,此時出現mock資料說明元件功能正常。

由於熔斷器採用的是新執行緒執行,所以會影響rpc上下文傳遞的引數傳遞,後續我再解決。

Go實現簡易RPC框架的方法步驟

本文旨在講述 rpc 框架設計中的幾個核心問題及其解決方法,並基於 golang 反射技術,構建了乙個簡易的 rpc 框架。專案位址 tiny rpc rpcrpc remote procedure call 即遠端過程呼叫,可以理解成,服務 a 想呼叫不在同一記憶體空間的服務 b 的函式,由於不在...

實現RPC框架

什麼是rpc client端 student student call serveraddr,addage,student 1.將這個呼叫對映為call id。2.將call id,student params 序列化,以二進位制形式打包 3.把2中得到的資料報傳送給serveraddr,這需要使用...

rpc框架解釋

rpc是指遠端過程呼叫,也就是說兩台伺服器a,b,乙個應用部署在a伺服器上,想要呼叫b伺服器上應用提供的函式 方法,由於不在乙個記憶體空間,不能直接呼叫,需要通過網路來表達呼叫的語義和傳達呼叫的資料。首先,要解決通訊的問題,主要是通過在客戶端和伺服器之間建立tcp連線,遠端過程呼叫的所有交換的資料都...