本文出自於**edge intelligence: on-demand deep learning model co-inference with device-edge synergy ，主要介紹了一種移動裝置與邊緣協同作用的dnn協同推理框架。在資源受限的移動裝置上執行dnn會帶來高能耗，而將dnns解除安裝到雲上執行時，由於無法控制長時間廣域網延遲，其效能也難以**。為了解決這些挑戰，在本文中我們提出來edgent，乙個協同和按需的dnn協同推理框架，它將裝置與邊緣協同作用。edgent包含兩個關鍵點：（1）自適應地將dnn計算劃分在裝置和邊緣之間的dnn分割槽，利用相鄰的混合計算資源進行實時的dnn推理；（2）通過在適當的中間dnn層提前退出來加速dnn推理，從而進一步降低計算延遲。
dnn處理的傳統方式是將移動裝置生成的輸入資料傳送到雲端進行處理，推理後將結果傳送回移動裝置。然而以雲端為中心的方案，大量資料需要借助長時間的廣域網資料傳輸來上傳到雲，導致高度端到端延遲和移動裝置能耗。為了減輕以雲為中心方法的延遲和能量瓶頸，乙個更好的方案是利用新型的邊緣計算正規化，邊緣計算支援低延遲和高效的dnn推理。
edgent進一步結合了dnn分割槽和dnn的正確規模，通過在中間dnn層的早期退出來加速dnn推理。但是早期退出會導致部分精度損失，因此edgent通過隨需應變的方式聯合優化dnn分割槽和正確規模。
我們採取一種向外擴充套件的方案，來釋放邊緣和移動裝置之間的協作優勢智慧型，從而緩解終端裝置的效能和能量瓶頸。在另一方面，dnn分割槽不足以滿足關鍵任務應用程式的嚴格及時性要求。因此，我們進一步應用了dnn的大小調整方法來加速dnn推理。
dnn劃分：將dnn劃分成兩部分，然後以較低的傳輸開銷將計算密集型的一部分轉移到伺服器，於是減少了端到端延遲。通過在裝置和邊緣之間的dnn劃分，我們能夠協作混合計算資源在靠近低延遲的dnn推理。
dnn正確大小：為了進一步降低延遲，我們可以將dnn正確調整大小的方法與dnn劃分相結合。dnn的適當大小可以通過提前退出機制來加速模型推理。直觀來說，dnn的適當調整進一步減少了dnn推理任務所需的計算量。
問題描述：給定預定義的和嚴格的延遲目標，我們在不違背截止日期要求的前提下要最大化精度。本文要解決的問題可以概括如下：給定乙個預定義的延遲要求，為了最大化dnn推理精度，應當如何聯合優化dnn劃分和正確大小的決定。
層延遲**：在估計dnn的執行時，edgent對每層的延遲進行建模，而不是在整個dnn的粒度上建模，這極大減小了分析開銷。基於每層的以上輸入，我們建立了乙個回歸模型來**基於分析的每層延遲。
edgent構建演算法描述：
當最佳劃分點可能變化時，我們可以看到最佳退出點隨著頻寬提公升也在變得更高，這意味著更高的頻寬會帶來更高的精度。
當頻寬增加時，模型的執行時間首先會大幅下降然後會突然上公升。這表明我們提出的基於回歸的延遲方案可以很好地預估實際的dnn模型執行時延遲。
隨著延遲需求的增加，最佳退出點會變得更高，這意味著乙個較大的延遲目標給予精度提公升更大的空間。
在這項工作中，我們提出來edgent，乙個協作和隨需應變的基於裝置-邊緣協同的dnn協同推理框架。針對低延遲邊緣智慧型，edgent引入了兩個設計關鍵點來調整dnn模型的延遲：（1）dnn分割槽支援邊緣和移動裝置之間的協作；（2）dnn正確大小決定了dnn的計算要求。
邊緣計算與移動邊緣計算的區別
如果說雲計算是集中式大資料處理，那麼邊緣計算就可以理解為邊緣式大資料處理。何為邊緣？通用術語表示就是，鄰近 接近。放在這句話中就是，臨近計算或接近計算。想象一下，資料每次都要傳到遙遠的雲端，雲端處理完，才能回傳回來，很麻煩吧！邊緣計算則在想，為啥要傳那麼遠呢？資料那麼多，傳來傳去浪費時間不說，還效率...
如何抓取iOS移動裝置發出的HTTPS協議包
以3.11.5版本為例。1 電腦端安裝ssl證書 help ssl proxying,install charles root certificate.2 手機端安裝ssl證書 3 進行相關的配置 proxy proxy settings,勾選enable transparent http prox...
移動邊緣計算解除安裝機制的提問與回答
1 任務是原子級的，不可進一步劃分 2 mec伺服器允許多個計算任務同時進行 3 回傳的功耗是忽略的，因為回傳是與其他基礎設施共享的 4 sbs到底經不經過mbs，文中說的不經過 用的or 但是要回傳幹什麼 5 功率調節機制可參照參考文獻 6 裝置所需的總通道數應該小於mbs和sbs共有的通道數 7...