matlab 定點量化

2021-09-27 17:47:17 字數 765 閱讀 5394

**

浮點轉換為定點的過程在matlab中稱為量化,使用quantizer和quantize兩個函式完成。

(1)、quantizer用於定義資料的量化屬性

(2)、quantize則按照quantizer定義的量化屬性量化浮點資料。

下面舉乙個例子:

x = [3.5 1.5 6 20.8 -128.25 127.75];

qpath = quantizer('fixed','round','saturate',[10,2]);

fix_x = quantize(qpath,x);

執行後fix_x結果為:

fix_x =

3.5000    1.5000    6.0000   20.7500 -128.0000  127.7500

其中-128.25溢位了,這裡設定溢位後為飽和輸出,所以為-128。

具體關於quantizer和quantize函式的使用說明請參考matlab的help檔案。

假如乙個浮點數為10.765,我們用乙個總位寬為8bit,小數字寬為3bit的有符號數進行表示那麼對應的最接近的二進位制數為01010.110,對應的十進位制數為10.75,量化誤差為0.015。當然小數字寬越寬,對應的小數部分精度就越高。

對於乙個資料總位寬為10bit,小數字為2bit。則量化的範圍為:-128.0 ~ 128.75,量化的最小精度為0.25。

小數部分位數的選取時通過對比定點**與浮點**的結果得出的,一般最大設定為12bit即可,精度可以達到0.000244140625。

Matlab向量化再探

之前的觀點是matlab的向量化的計算效率比for迴圈高。今天考察乙個例子,計算10000個隨機數相加,平台是matlab 2018b。先說結論 進行預定義矩陣尺寸的for迴圈並且減少迴圈中的重複計算的情況下,效率比自帶函式的效率要高。從此看出,提高效率的關鍵在於定義矩陣尺寸,而向量化不能有效的提高...

MATLAB 定點演算法的設計和實現

jianping chen,mathworks 作為演算法研究和實現流程中一步,定點演算法設計起著承前啟後的關鍵作用。現代嵌入式系統,fpga和asic的實現,都需要把研究部門的成果在動手轉換之前,轉化為定點的演算法。定點的結果需要保證演算法的正確性和硬體實現的可行性,如何得到乙個可靠的定點演算法,...

量化 量化研究框架

1.庫存指標體系構建及因子定義 首先,我們對上市的各品種現有庫存指標進行歸類整理,發現庫存指標類別主要可分為社會庫存 交易所庫存及 庫存三大類。其中社會庫存涵蓋的庫存統計面最大,反映真實庫存水平的能力也最強,交易所庫存僅統計存放在交易所的那部分顯性庫存,合理性次之,而 庫存作為交易所庫存中的一部分 ...