VB6中雙精度和單精度資料型別的比較

2021-06-20 09:42:19 字數 684 閱讀 2066

單精度(single)和雙精度(double)資料

型是vb6裡的兩種浮點型別;它們被用來儲存帶有小數的數值。小數的位數可以變化(所以名字叫"浮點"),因為小數點的位置可以變化。例如:

1.23456

12.3456

123.456

雙精度和單精度的差別

大多數程式設計師都知道雙精度型別容納的數值要比單精度的大,而雙精度的型別同時要求更大的儲存空間--即8個位元組,而不是4個位元組。

雙精度和單精度的最大不同之處是數值能夠表達的精度。例如,單精度型別的精度被限制為7位;所以,下面這些值都是單精度型別:

1.23

123999

79.098

但是,如果你把123456789儲存為乙個單精度型別,那麼它就會被四捨五入為123456800。類似的,1.23456789會被縮減為1.234568。

相比而言,雙精度型別可以實現15位的精度。所以對於需要大量數值計算的程式設計師來說,就要使用雙精度型別,否則精度就會出問題。

:visual basic的幫助文件談到了乙個叫做decimal的資料型別,它的精度是28位。這聽起來很不錯,但是不幸的是,它從來都沒有被真正實現過。

雙精度,單精度和半精度

浮點數是計算機上最常用的資料型別之一,有些語言甚至數值只有浮點型 perl,lua同學別跑,說的就是你 常用的浮點數有雙精度和單精度。除此之外,還有一種叫半精度的東東。雙精度64位,單精度32位,半精度自然是16位了。半精度是英偉達在2002年搞出來的,雙精度和單精度是為了計算,而半精度更多是為了降...

關於單精度 雙精度的概念

單精度和雙精度數值型別最早出現在c語言中 比較通用的語言裡面 在c語言中單精度型別稱為浮點型別 float 顧名思義是通過浮動小數點來實現資料的儲存。這兩個資料型別最早是為了科學計算而產生的,他能夠給科學計算提供足夠高的精度來儲存對於精度要求比較高的數值。但是與此同時,他也完全符合科學計算中對於數值...

單精度和高精度乘法

lightoj 1024 include include include includeusing namespace std const int maxn 100010 int ans maxn cnt maxn len int fun int x,int y x代表因子 y代表這個因子出現的次數...