浮點數操作效率比較(乘法 VS 比較大小)

2021-04-26 13:12:37 字數 428 閱讀 1150

通常認為浮點數的乘法是比較消耗時間的操作,在演算法設計上也通常以乘法的次數評估時間複雜度。而很少會注意到浮點數的比較也是乙個耗時的操作。

有乙個問題會涉及到這兩者的比較。在執行乙個向量與矩陣的乘法時,是直接執行所有的乘法,不管矩陣中是否有大量的0;還是事先判斷元素是否為0,然後再執行乘法。

在amd 4400 + 2g系統上測試時間為140ms左右。

在同樣的條件下,測試結果典型值為894ms。比浮點數的乘法慢許多倍。

浮點數另乙個話題是,浮點數在計算機內部的儲存並不是精確的,因此直接比較兩個浮點數是否相等通常會得到錯誤的結果。例如:

雖然a和b都被賦值為1e-10, 實際上它們並不一定相等,在除錯模式下檢視可以發現它們的值很可能是9.999999e-11之類的值。

要比較兩個浮點數的值,通常給定乙個誤差限,然後將差值的絕對值與該誤差限進行比較。

浮點數比較

在數 算當中經常會涉及到判斷兩個數是否相等的情況 對於整數很好處理 a b這樣的乙個語句就可以解決全部的問題 但是對於浮點數是不同的 首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的 現在的計算機大部分都是數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法...

浮點數比較

部分 思路來自網路。fxxki整理發布。double變數以帶符號的 ieee 64 位 8 個位元組 雙精度浮點數形式儲存 它可以表示十進位制的15或16位有效數字.負值取值範圍為 1.79769313486231570e 308 到 4.94065645841246544e 324,正值取值範圍為...

浮點數比較

0 我們來看乙個程式 include int main else 1 執行結果 可以看出,我們輸入的2.3和計算出來的 4.6 2 相等,這個沒有問題。但是如果遇到下面這個問題 3 我們再來看一段程式 include include define eqs 1e 8 define equal a,b ...