端到端transformer模型的混合精度後量化，需要克服如下難點：
transformer自回歸模型，包含了encoder與decoder；端到端模型壓縮的支援，需要考慮自回歸邏輯（beam search）的複雜實現；
後量化需要考慮合理、有效的ptq策略（ptq: post-training quantization），確保量化後精度魯棒性；
混合精度決策需要考慮實現的高效性，通常採用label-free方式；
具體可參考
端到端語音識別的移動端解決方案
端到端學習
傳統的影象識別問題 將過程分解為預處理，特徵提取和選擇，分類器設計等若干步驟。優點 把複雜的問題分解為簡單 可控且清晰的若干小的子問題。缺點 儘管可以在子問題上得到最優解，但子問題上的最優解並不意味著就能得到全域性問題的最後解。深度學習影象識別 提供了一種端到端的學習正規化 整個學習的流程並不進行人...
IM 端到端加密
資訊保安領域的大多數專家都承認，端到端加密是確保資料交換安全的最可靠方法之一。按照這種方法，在端到端加密應用之間傳送的訊息只能由這些應用的使用者讀取，任何第三方都無法讀取。通過使用唯一金鑰進行資料加密和解密，可以實現此類功能。只有終端使用者可以生成和儲存這些金鑰。端到端加密系統旨在確保，即使不法分子...
端到端時延
我們現在考慮從源到目的地的總時延 假定在源主機和目的主機之間有 n 1 臺路由器，我們還要假設該網路此時是無擁塞的 因此排隊時延是微不足道的 dend end n 式中 d trans l r 其中 l 是分組長度。即傳輸時延 傳播時延 處理時延 traceroute 是乙個簡單的程式，它能夠在任何...