浮點數運算

2021-10-02 06:57:27 字數 486 閱讀 2340

浮點數運算的公式

n = m*re

n代表浮點數 m代表尾數 r代表基數 e代表指數

所謂浮點數就是類似我們高中學的科學計數法

比如 1000 就表示為 1.0 * 103

那麼浮點型計算就是兩個用科學計數法表示的數之間進行的計算

例如 1.0 * 102 + 1.19 * 103 該如何計算

步驟:1. 對階 所謂對階就是讓指數一致,因為如果指數不同就無法對尾數進行

相應的操作,所以對應的操作就是將1.0 * 102 化成0.1 * 103 這個時候再對

尾數進行加減,但是有乙個問題,為什麼不能把1.19 * 103化成11.90 * 102呢

理由就是如果我們這樣轉化到最後還是要轉化回1.多少的形式。意思就是小數點左邊不能多餘兩位。

步驟:2.尾數計算 對尾數進行

步驟:3.結果格式化 假如尾數計算的結果出現0.18 * 103這種情況 就需要將結果變成1.8 * 102類似

浮點數運算

今天學習了浮點數運算 加減乘除 浮點數運算主要包括兩部分 指數運算和尾數運算。在ieee754標準下,指數運算就是階碼的運算,類似於無符號數運算。尾數運算是原碼運算。之前一直很疑惑為什麼前面的教材在介紹原碼運算 加減乘除 所舉的例子都是小數運算。現在猜想那部分內容可能只是為了浮點數運算做鋪墊,這裡才...

php 浮點數運算

php r echo 0.1 0.7 0.8 true false 了解浮點運算的都不難理解以上 執行時會得到false 這是因為很多的10進製數都不能精確的轉成2進製,或如果要精確轉換的話需要的二進位制數太長,會捨棄掉末尾部分,只儲存一定的精度。比如0.1 十進位制 0.0001100 1100 ...

浮點數的運算

規格化的浮點數因為儲存是使用類似科學計數法的表示,因此計算方法大體上與科學計數法較為類似。浮點加減法的一般步驟 減法本質也是加法 對於二進位制形式的兩個浮點數相加 1.對階 對於兩個規格化浮點數,將較小的指數的數向較大指數的數對齊。通過移動小數點實現。如果出現有效數字位數不能滿足的情況,進行近似。2...