關於演算法中使用定點數的總結

2021-09-10 12:42:46 字數 340 閱讀 7605

1,首先根據演算法公式 定演算法中的變數個數

2,要根據演算法,來考慮:

用有符號數,還是無符號數。

變數的資料位寬:           演算法的每個變數的位寬可以不一致, 根據取值範圍定,但是在計算過程中要統一。 

變數的定點數格式(整數多少位,小數多少位): 根據變數取值範圍來定 整數小數字寬,但是要在計算過程中統一

資料截斷:           這個最複雜,因為要保持小數部分精度,還有要與後續計算定點數格式一致的問題,因此,要根據演算法的實際計算結果來判斷,還有乘積的高位是否會始終為0,來決定是否要將高位截斷, 保留符號位和多保留幾個小數字。還有截斷過程中通過資料溢位來解決截斷溢位的問題。

定點數的表示

計算機中常用的資料表示格式有兩種,一是定點格式,二是浮點格式。所謂定點數和浮點數,是指在計算機中乙個數的小數點的位置是固定的還是浮動的 如果乙個數中小數點的位置是固定的,則為定點數 如果乙個數中小數點的位置是浮動的,則為浮點數。一般來說,定點格式可表示的數值的範圍有限,但要求的處理硬體比較簡單。而浮...

定點數的定標

通過設定小數點在資料的不同位置,就可以表示不同大小和精度的小數。以16位資料為例,q和s表示法的儲存格式為 qx x位用來表示小數部分,15 x 位用來表示整數。sx.y 其中x y 15,x位表示整數,y位表示小數。精度 1 2 x 以qx表示法為例說明 括號裡的內容為表示範圍的小數部分怎麼計算來...

定點數和浮點數 C Qt系列之定點數的表示

又是很久沒更新了,書接上文,上次談到計算機中數值的表示方式包括定點和浮點,並留了乙個關於定點數表示的懸念,本次將繼續介紹。定點數在計算機中主要表示方式有三種 原碼 補碼和反碼。另外為了方便階碼的運算,還定義了移碼。1 原碼用真實的二進位制值表示數值的編碼叫原碼。原碼表示法在數值前面增加了一位符號位,...