浮點型與定點型(浮點數與定點數)

2022-09-23 11:27:09 字數 843 閱讀 4103

浮點型與定點型(浮點數與定點數)

float與int,這兩個型別,仔細研究一下,這兩個型別就會發現為什麼有超級計算機誕生的必要了,以及提高計算機的計算能力真的是一件很偉大的事情,正式說下把,先來定點數,定點數就是小數點固定在乙個位置,如下圖

類似上面長條那樣,表示小數點時,只能固定乙個點,假設使用32位來表示乙個小數,前16位表示整數,後16位表示小數,言下之意即小數點固定放在中間處,對了,還需要乙個最高位表示正負,這樣可以想象當表示乙個很小的數,後面16位小數就用的上,但當表示乙個很大的數時,顯然只有前15位,有時就不夠,但由於後面16位都固定成了小數就更不起作用,於是想到可不可以將小數點位置進行移動呢,當表示乙個很小的數時,可以31位都是小數,相當於小數點移到了最前面。當表示乙個很大的數時,可以31位都表示整數(小數點移到了最後面),這時表示範圍不就更大了,於是就聯想出了浮點型,為了將浮點型的浮點進行實際上的採用,那就得制定一套表示方法(這個表示方法就是格式),如下圖:

用s符號代表正負,e代表指數,v為有效值

for example :

0     01111110      101.0000   0000  0000    0000   0000

= (-1)*0*(1+1*2^-1+1*2^-3) * 2*(126-127)

通過這種浮點形式可以將數表示的很大和很小,但很小的誤差很小,很大的誤差就很大了(相差乙個最小位相鄰數字的變化間隔),這需要特別注意。

定點數與浮點數

1 定點數 定點數指小數點在數中的位置是固定不變的,通常有定點整數和定點小數。在對小數點位置作出選擇之後,運算中的所有數均應統一為定點整數或定點小數,在運算中不再考慮小數問題。1 定義 資料中小數點位置固定不變的數 2 種類 定點整數 3 小數點在符號位與有效位之間。注 定點數受字長的限制,超出範圍...

定點數與浮點數

dsp中對數值的儲存方式有兩種 定點表示法和浮點表示法 對應dsp晶元分為兩種 定點dsp晶元和浮點dsp晶元 定點dsp晶元 結構簡單,mac速度較快,運算精度低,動態範圍小 浮點dsp晶元 結構較複雜,主頻較低,功耗較高,動態範圍大 1 定點資料格式 fixed point 1.1定點整數 定點...

定點數與浮點數

小數點固定在某一位置的數為定點數,採用定點數的機器稱為定點機,有以下兩者格式 小數點位於數符和第一數值位之間時,機器內的數為純小數 小數點位於數值位之後時,機器內的數為純整數 在定點機中,由於小數點的位置固定不變,故當機器處理的數不是純小數或純整數時,必須乘上比例因子,否則會產生 溢位 這似乎有點麻...