簡易講解定點數與浮點數(拷貝簡書,用於個人學習)

2021-09-27 13:32:42 字數 428 閱讀 6616

我們約定小數點位於符號位後(帶符號的定點小數)

計算機中儲存為 1010111(第一位1為符號位,表示負數)

實際含義:-0.010111

解析度(精度):

我們約定小數點位置固定在最後一位(帶符號的定點整數)

計算機中表示: 10101110

實際含義: -0101110.

解析度(精度):1

結構:

浮點數n的尾數為m,階碼為e,階碼底為r。

尾數:定點小數,即浮點數的小數部分。使用原碼或補碼表示,其位數決定數的精度;其數符±表示數的正負。

階碼底:隱約約定,一般為2。

階碼:定點整數,補碼或移碼表示。其位數決定數值範圍;階符±表示階碼的正負。

這種設計可以在某個固定長度的儲存空間內表示定點數無法表示的更大範圍的數

定點數與浮點數

1 定點數 定點數指小數點在數中的位置是固定不變的,通常有定點整數和定點小數。在對小數點位置作出選擇之後,運算中的所有數均應統一為定點整數或定點小數,在運算中不再考慮小數問題。1 定義 資料中小數點位置固定不變的數 2 種類 定點整數 3 小數點在符號位與有效位之間。注 定點數受字長的限制,超出範圍...

定點數與浮點數

dsp中對數值的儲存方式有兩種 定點表示法和浮點表示法 對應dsp晶元分為兩種 定點dsp晶元和浮點dsp晶元 定點dsp晶元 結構簡單,mac速度較快,運算精度低,動態範圍小 浮點dsp晶元 結構較複雜,主頻較低,功耗較高,動態範圍大 1 定點資料格式 fixed point 1.1定點整數 定點...

定點數與浮點數

小數點固定在某一位置的數為定點數,採用定點數的機器稱為定點機,有以下兩者格式 小數點位於數符和第一數值位之間時,機器內的數為純小數 小數點位於數值位之後時,機器內的數為純整數 在定點機中,由於小數點的位置固定不變,故當機器處理的數不是純小數或純整數時,必須乘上比例因子,否則會產生 溢位 這似乎有點麻...