浮點數精度計算出現的問題

當我們儲存浮點數後再讀取浮點數，結果可能會出現一點點偏差。

比如：float ft1 = 20.2;(這樣編譯器會報警告，因為小點數預設為double)

cstring str;

str.format(_t("%f"),ft1);

這時候ft1的值等於20.200001。

float ft2 = 20.8;

cstring str;

str.format(_t("%f"),ft2);

這時候ft1的值等於20.799999。

解決方法1：

將float改用double儲存：

double dt1 = 20.2;

解決方法2：

使用%g格式化，除去0後的有效位數。

float ft1 = 20.2;

cstring str;

str.format(_t("%g"),ft1);

這時候ft1的值等於20.2。但是沒法再用0對齊了，嘿嘿嘿嘿。。。。。。

解決方法3：

使用%0.4格式化

float ft1 = 20.2;

cstring str;

str.format(_t("%0.4f"),ft1);

這時候ft1的值等於20.2000。

還有些比較複雜的，比如說計算過程中出現了精度損失。

如

我們通過簡單的**試驗一下：

int newwidth, newheight;
getthumbnailsize(200, 200, 100, 100, out newwidth, out newheight);
console.writeline(", ", newwidth, newheight);
getthumbnailsize(300, 300, 100, 100, out newwidth, out newheight);
console.writeline(", ", newwidth, newheight);

得到的結果是：

100, 100

99, 100

第乙個結果自然沒有問題，但是在第二個結果中為什麼是99而不是100？為此，我們再通過以下的**來觀察一番：

ratio: 0.3333333333333333333333333333

new value: 99.99999999999999999999999999

to int: 99

可見，雖然使用了decimal，精度已經非常高的，但是在經過了一除一乘，它還是沒有恢復到最精確值。雖然一直說要注意浮點數計算時的精度問題，但是對於這個問題許多朋友往往只是理解到「不能直接兩個浮點數相等」，包括我自己的第一印象。但事實上，從上面的結果也可以看出，把乙個浮點數直接轉換成整形，它便是使用了「去尾」而不是「四捨五入」的方法。因此，雖然newvalue的值無比接近100，但是在強制去尾後它還是變成了99。

如果要在原來的方法中改變這個問題，最簡單的方法可能是把最後的強制轉型替換成math.round方法。math.round方法使用四捨五入，應該能夠解決問題。不過如果只是這樣的話收穫不大，我們再仔細想想，應該如何做到盡可能的精確。

兩個浮點數相除可能會喪失精度，但如果是乘法操作，在一般情況下精度是不會丟失的，除非發生了溢位的話，或者小數字數太多。因此在計算過程中為了保持精度，我們應該盡可能的做乘法，而不是作除法。例如以下的判斷：

if ((decimal)desiredwidth / originalwidth < (decimal)desiredheight / originalheight)

其實最好改寫成「等價」的乘法操作。

浮點數精度計算出現的問題

浮點數精度問題

浮點數的精度問題

浮點數精度丟失問題

浮點數精度計算出現的問題

浮點數精度問題

浮點數的精度問題

浮點數精度丟失問題

相關推薦