定點數的定標

2022-08-02 06:00:15 字數 668 閱讀 9343

通過設定小數點在資料的不同位置,就可以表示不同大小和精度的小數。

以16位資料為例,q和s表示法的儲存格式為:

qx:x位用來表示小數部分,(15-x)位用來表示整數。

sx.y:其中x+y=15,x位表示整數,y位表示小數。

精度:1/2^x(以qx表示法為例說明)

括號裡的內容為表示範圍的小數部分怎麼計算來的

下表為定點表示法可表示的十進位制數範圍

假設存在浮點數x和定點數xq,則二者轉化公式如下:

x轉換為xq:xq = (int)x*2^q;《下取整》

xq轉換為x:x = (float)xq*2^(-q)

q表示從q0-q15之間的定標

舉例:x = 0.5,q = q1,則xq = 0.5*2^1 = 1;

x = 0.5,q = q15,則xq = 16384。

假設xq = 100,q=q1,則x = 100*2^(-1) = 50.0;

xq = 512,q = q15,則x = 0.015625

定點數乘法

原碼乘法 原碼的手動乘法 就和小學學過的豎式乘法寫法一致,從右到左,乘數每一位分別與被乘數相乘。x 1101 原碼的一位乘法 具體計算 符號位最後單獨處理,絕對值參加乘法運算。該演算法因為每次根據乘出的一位來計算位積,所以稱為原碼一位乘法。步驟 初始部分積為0,yi為1 若yi為0,部分積加 x 累...

定點數的表示

計算機中常用的資料表示格式有兩種,一是定點格式,二是浮點格式。所謂定點數和浮點數,是指在計算機中乙個數的小數點的位置是固定的還是浮動的 如果乙個數中小數點的位置是固定的,則為定點數 如果乙個數中小數點的位置是浮動的,則為浮點數。一般來說,定點格式可表示的數值的範圍有限,但要求的處理硬體比較簡單。而浮...

浮點數 定點數

浮點數是表示小數的一種方法.所謂浮點就是小數點的位置不固定,與此相反有定點數,即小數點的位置固定.整數可以看做是一種特殊的定點數,即小數點在末尾.8086 8088中沒有浮點數處理指令,不過從486起,cpu內建了浮點數處理器,可以執行浮點運算.一般的浮點數有點象科學計數法,包括符號位 指數部分和尾...