如何確定精度

2021-05-05 08:14:38 字數 673 閱讀 6843

我們常看到 float 型別是4個位元組, 7位有效數字。但是我總是在想為什麼float是7位有效數字,而不是8位,9位,10位?

我在baidu,google上搜了一通,發現很多人把float的儲存方式寫的很明白很清楚,但是還是無法解釋為什麼只有7個有效數字,

答非所問。

7位有效數字,說明第8位是不確定的,只能精確到第7位有效數字,第7位肯定是正確的。

那怎麼樣你才能得出結論說第7位肯定是正確的呢?

float 型 24位是儲存底數的(精度是說你可以精確到小數點後幾位,範圍是說你可以表示的數的大小,是兩個概念,不要混在一起),

2^(-24) = 0.0000000

59604644775391, 什麼是7位有效數字,說明能精確到小數點後第6位,為什麼能精確到小數點後第6位呢,你憑什麼說第6位是肯定正確的呢,我的結論是 2^(-25) 以後的數字全部加起來也不能影響到小數點後第6位了,

換句話說2^(-25) + 2^(-26)+2^(-27)+....... < 0.000000040....., 也就是說

2^(-24)+

2^(-25) + 2^(-26)+2^(-27)+....... <0.0000001. 那就是說24位後面所有的數字加起來也上不了1位到小數點後第7位,那他自然影響不到第6位了,如果他能上1位到小數點後第7位,那他就有可能影響到第6位的值。

如何確定度量目標?

一般的企業在度量中容易犯2個錯誤 1 度量的目標不明確 2 對資料分析不夠 目標不明確實際上就是不知道為什麼要度量某項資料,度量後會有什麼好處,能給管理帶來哪些改進?而不知道如何分析資料一方面是不清楚資料分析的方法,另一方面也是由於度量目標不明確而造成的,因此確定度量目標是在建立度量體系時最基本的活...

如何確定函式引數

簡單情況 1 觀察呼叫處的 push 3 push 2 push 1 call 0040100f 2 找到平衡堆疊的 繼續論證 calll 0040100f add esp,0ch 或者函式內部 ret 4 8 0xc 0x10 3 最後,兩者一綜合,函式引數個數基本確定。複雜情況觀察步驟 1.不考...

如何應對不確定

翻 譯 paula 審 校 ellesse chow 如果你下週開始新工作,要結婚,或者移居異國,你是不是感到心慌意亂?兩個月前,我的一位好朋友就經歷了這樣的恐慌。她接受了公司的安排到乙個遙遠的國家任職,但又無法對自己的決定安心。她不停地擔心會遠離家人朋友,也不知道能否適應當地的天氣,文化和食物等等...