浮點數定點化表示

2022-06-20 01:33:09 字數 548 閱讀 2927

例:12.918進行定點化,11位的位寬帶來的量化誤差是多少?

4位用來表示整數,7位用來表示小數。解析度為:1/(2^7)=0.0078125

0.918/0.0078125~=118

118*0.0078125=0.921875

量化誤差:0.921875-0.918=0.003875>0.5*解析度,因此不能做到無損量化

如果用12位表示,則8位表示。解析度為:1/(2^8)=0.00390625

0.918/0.00390625=235.008

235*0.00390625=0.91796875

量化誤差:|0.91796875-0.918|=0.00003125<0.5*解析度

對12.918進行無損量化,要保留小數點後四位,就是比0.001多一位,同樣,二進位制的2^-8是0.00390625,它是0.008的1/2,也就是說在二進位制中它能精確到0.008的後一位,也就是可以做到無損量化了。

FPGA浮點數定點化

因為在普通的fpga晶元裡面,暫存器只可以表示無符號型,不可以表示小數,所以在計算比較精確的數值時,就需要做一些處理,不過在altera在arria 10 中增加了硬核浮點dsp模組,這樣更加適合硬體加速和做一些比較精確的計算。浮點數和定點數的區別 定點數的小數點是固定的,而浮點數的小數點的位置不確...

浮點數定點化的初步認識

fpga只能處理定點數,alteral stratix 10可以支援硬浮點,如軍方雷達 機器視覺等硬體加速。浮點數 2.918 3.1415986 浮點轉定點 如16位,表示範圍32767 32768 定義小數需求多少位 如12位 整數需求多少位 如3位 最高位為符號位 針對有符號數,1位 對於低1...

FPGA中浮點數的定點化筆記

fpga中浮點數的定點化筆記 關於基本相關知識參考該部落格 浮點數的定點化 fpga 1.基礎概念 浮點數 簡單來說,就是小數點的位置不是固定的 定點數 簡單來說,小數點的位置是固定的,也就是整數字寬與小數的位寬是固定的 以下部分內容摘自該博文 因為在普通的fpga晶元裡面,暫存器只可以表示無符號型...