浮點數與定點數
mysql> create table test (c1 float(10,2),c2 decimal(10,2));
query ok, 0 rows affected (0.29 sec)
mysql> insert into test values(131072.32,131072.32);
query ok, 1 row affected (0.07 sec)
mysql> select * from test;
+-----------+-----------+
| c1 | c2 |
+-----------+-----------+
| 131072.31 | 131072.32 |
+-----------+-----------+
1 row in set (0.00 sec)
從上面的例子中我們看到 c1 列的值由 131072.32 變成了 131072.31，這就是浮點數的
不精確性造成的。 在
mysql 中 float、double（或 real）是浮點數，decimal（或 numberic）是定點數。
浮點數相對於定點數的優點是在長度一定的情況下，浮點數能夠表示更大的資料範圍；
它的缺點是會引起精度問題。
1、浮點數存在誤差問題； 2、
對貨幣等對精度敏感的資料，應該用定點數表示或儲存；
3、程式設計中，如果用到浮點數，要特別注意誤差問題，並盡量避免做浮點數比較；
4、要注意浮點數中一些特殊值的處理。
定點數與浮點數
1 定點數 定點數指小數點在數中的位置是固定不變的，通常有定點整數和定點小數。在對小數點位置作出選擇之後，運算中的所有數均應統一為定點整數或定點小數，在運算中不再考慮小數問題。1 定義 資料中小數點位置固定不變的數 2 種類 定點整數 3 小數點在符號位與有效位之間。注 定點數受字長的限制，超出範圍...
定點數與浮點數
dsp中對數值的儲存方式有兩種 定點表示法和浮點表示法 對應dsp晶元分為兩種 定點dsp晶元和浮點dsp晶元 定點dsp晶元 結構簡單，mac速度較快，運算精度低，動態範圍小 浮點dsp晶元 結構較複雜，主頻較低，功耗較高，動態範圍大 1 定點資料格式 fixed point 1.1定點整數 定點...
定點數與浮點數
小數點固定在某一位置的數為定點數，採用定點數的機器稱為定點機，有以下兩者格式 小數點位於數符和第一數值位之間時，機器內的數為純小數 小數點位於數值位之後時，機器內的數為純整數 在定點機中，由於小數點的位置固定不變，故當機器處理的數不是純小數或純整數時，必須乘上比例因子，否則會產生 溢位 這似乎有點麻...