浮點型資料型別

2021-10-01 22:51:31 字數 629 閱讀 1769

//double 和 float 資料型別都是浮點型,

// 在從記憶體中取出來後, 即便之前的賦值是個 整型的資料型別, 把浮點型取出來後都會變成實數的小數, 比如賦值為0, 取出來後就是0.0了

float var_f = 0;

double var_d = 0;

system.out.println(var_f);// 0.0

system.out.println(var_d);// 0.0

string str = string.valueof(var_d);

system.out.println(str);// 0.0

string strint = string.valueof(0);

system.out.println(strint);// 0

你認為你看錯了,但結果卻是是這樣的。問題在**呢?原因在於我們的計算機是二進位制的。浮點數沒有辦法是用二進位制進行精確表示。我們的cpu表示浮點數由兩個部分組成:指數和尾數,這樣的表示方法一般都會失去一定的精確度,有些浮點數運算也會產生一定的誤差。如:2.4的二進位制表示並非就是精確的2.4。反而最為接近的二進位制表示是 2.3999999999999999。浮點數的值實際上是由乙個特定的數學公式計算得到的。

基本資料型別 浮點型 指標

浮點數家族包括float double和long double型別。通常,這些型別分別提供單精度 雙精度以及在某些支援擴充套件精度的機器上提供擴充套件精度。ansi標準僅僅規定long double至少和double 一樣長,而double至少和float一樣長。標準同時規定了乙個最小範圍 所有浮點...

資料型別及其分類2 浮點型與布林型

float型別資料跟以下要說的double型別資料都屬於浮點型別資料,與以上的資料型別不同,以上都是整型資料。float是單精度資料,可以用來表示小數,雖然表示範圍較大,但小數點後的精確度不高,占用4個位元組,表示範圍在 3.4 10 38到3.4乘以10的38次方,它的佔位符是 f,但當想要顯示n...

MATLAB的資料型別整型和浮點型

可以看出matlab的數值型別跟c語言一樣分為整型和浮點型,但是需要特別注意的是,它的用意和c語言完全不一樣。前者的整型資料主要為影象處理等特殊的應用問題提供資料型別,而對於一般數值運算,絕大多數是採用雙精度浮點型的資料。8種整數型別 整數型別 數值型別 轉換函式 有符號8位 2 7 2 7 1 i...